Nu kan du køre din egen GPT på din computer: Mød Nvidias ’Chat med RTX’

Nvidias nye 'Chat with RTX' værktøj gør det muligt at skabe en skræddersyet chatbot krydret med egne lokale data.

Artikel top billede

(Foto: Nvidia PR)

En AI-chatbot er noget der oftest har krævet kolossale mængder regnekræfter, mere end hvad din typiske maskine på skrivebordet typisk kan tilbyde. Men nu dukker nye muligheder op.

Hvor OpenAI’s ChatGPT, Microsofts Copilot og Google Gemini AI-chatbots afvikles alle sammen hos de respektive selskabers omfattende server-farme, tilbyder Nvidia nu at AI-chatbot værktøj, som du kan køre direkte fra din bærbare eller desktop-maskine.

Programmet hedder ’Chat with RTX’ og gør det muligt at køre et udvalg af storskalasprogmodeller uden opkobling til nettet – forudsat at du har en potent maskine at afvikle det på.

Høje systemkrav

For at kunne køre ’Chat with RTX’ kræver Nvidia at du har et nyere Windows 11 system udstyret mindst 16 gigabyte hukommelse og et Nvidia RTX-grafikkort i enten 3000 eller 4000 serien.

Kortet skal samtidig være udstyret med mindst otte gigabyte hukommelse, hvilket udelukker low-end udgaver af 3000 og 4000 serierne. RTX 2000 serien kan dog blive understøttet på sigt, forsikrer Nvidia.

Programmet kræver samtidig en hel del plads. Download-filen alene vejer 35 gigabyte, hvorefter den henter yderligere data, før modellen kan installeres, som noteret af netmediet Toms Hardware.

Skræddersyet chatbot

Ud over at kunne køres lokalt, skilter Nvidia med, at modellerne kan tage imod brugerens filer, for at tilbyde skræddersyede chatbot-svar.

Her kan importeres et væld af filtyper såsom .txt, .pdf, word og XML-dokumenter mens der også kan downloades YouTube-videoer, der kan transskriberes og inkluderes i chatboten, til at generere blandt andet opsummeringer og transskriberinger.

Selve modellerne der anvendes, er open-source modeller såsom Mistral eller Llama 2 kombineret med Nvidias ’Retrrievel-Augmented Generation’ (RAG).

Programmet kan hentes her og ses i aktion i videoen nedenunder.

Annonce

Event: Platform X 2027: AI, skalering og vækst

It-løsninger | København V

Mød verdens stærkeste og mest effektive platforme der driver den digitale transformation samlet i København - og dyk ned i den nyeste teknologi.

22. april 2027 | Gratis deltagelse

Navnenyt fra it-Danmark

Netip A/S har pr. 1. november 2026 ansat Morten Fogh som Systemkonsulent ved netIP's kontor i Aarhus. Han kommer fra en stilling som Seniorkonsulent hos Proinfo A/S. Han er uddannet IT-ingeniør med speciale i netværk. Morten har tidligere været selvstændig konsulent. Nyt job

Morten Fogh

Netip A/S

Netip A/S har pr. 17. august 2026 ansat Jesper U. Sørensen som Seniorkonsulent ved netIP's kontor i Esbjerg. Han kommer fra en stilling som Chief Technology Officer hos NetSec ApS, hvor han også var partner. Nyt job
Fellowmind Denmark A/S har pr. 1. september 2026 ansat Morten Jakobi som Business Unit Director. Han skal især beskæftige sig med at samle og udvikle Fellowminds forretning inden for Managed Services, Cloud Infrastructure & Security. Han kommer fra en stilling som Chief Executive Officer hos Inventio.it A/S. Han har tidligere beskæftiget sig med Ledelse og udvikling af Managed Services, serviceforretninger og transformation i Norden og Benelux. Nyt job

Morten Jakobi

Fellowmind Denmark A/S

Netip A/S har pr. 14. september 2026 ansat Andreas Thorø Møller som Systemkonsulent ved netIP's kontor i Aarhus. Han kommer fra en stilling som Endpoint Consultant hos Fellowmind Denmark A/S. Han er uddannet Datatekniker. Nyt job