Nu kan du køre din egen GPT på din computer: Mød Nvidias ’Chat med RTX’

Nvidias nye 'Chat with RTX' værktøj gør det muligt at skabe en skræddersyet chatbot krydret med egne lokale data.

Artikel top billede

(Foto: Nvidia PR)

En AI-chatbot er noget der oftest har krævet kolossale mængder regnekræfter, mere end hvad din typiske maskine på skrivebordet typisk kan tilbyde. Men nu dukker nye muligheder op.

Hvor OpenAI’s ChatGPT, Microsofts Copilot og Google Gemini AI-chatbots afvikles alle sammen hos de respektive selskabers omfattende server-farme, tilbyder Nvidia nu at AI-chatbot værktøj, som du kan køre direkte fra din bærbare eller desktop-maskine.

Programmet hedder ’Chat with RTX’ og gør det muligt at køre et udvalg af storskalasprogmodeller uden opkobling til nettet – forudsat at du har en potent maskine at afvikle det på.

Høje systemkrav

For at kunne køre ’Chat with RTX’ kræver Nvidia at du har et nyere Windows 11 system udstyret mindst 16 gigabyte hukommelse og et Nvidia RTX-grafikkort i enten 3000 eller 4000 serien.

Kortet skal samtidig være udstyret med mindst otte gigabyte hukommelse, hvilket udelukker low-end udgaver af 3000 og 4000 serierne. RTX 2000 serien kan dog blive understøttet på sigt, forsikrer Nvidia.

Programmet kræver samtidig en hel del plads. Download-filen alene vejer 35 gigabyte, hvorefter den henter yderligere data, før modellen kan installeres, som noteret af netmediet Toms Hardware.

Skræddersyet chatbot

Ud over at kunne køres lokalt, skilter Nvidia med, at modellerne kan tage imod brugerens filer, for at tilbyde skræddersyede chatbot-svar.

Her kan importeres et væld af filtyper såsom .txt, .pdf, word og XML-dokumenter mens der også kan downloades YouTube-videoer, der kan transskriberes og inkluderes i chatboten, til at generere blandt andet opsummeringer og transskriberinger.

Selve modellerne der anvendes, er open-source modeller såsom Mistral eller Llama 2 kombineret med Nvidias ’Retrrievel-Augmented Generation’ (RAG).

Programmet kan hentes her og ses i aktion i videoen nedenunder.

Læses lige nu

    Annonce

    Computerworld Events

    Vi samler hvert år mere end 6.000 deltagere på mere end 70 events for it-professionelle.

    Ekspertindsigt – Lyt til førende specialister og virksomheder, der deler viden om den nyeste teknologi og de bedste løsninger.
    Netværk – Mød beslutningstagere, kolleger og samarbejdspartnere på tværs af brancher.
    Praktisk viden – Få konkrete cases, værktøjer og inspiration, som du kan tage direkte med hjem i organisationen.
    Aktuelle tendenser – Bliv opdateret på de vigtigste dagsordener inden for cloud, sikkerhed, data, AI og digital forretning.

    It-løsninger | København

    Dynamics 365 FO: Næste niveau for data, AI og forretning

    Få overblik over vejen fra Dynamics AX til Finance & Operations – eller løft værdien af Dynamics FO. Hør praksisnære cases om strategi, migration og optimering. Vælg spor, få dyb faglig indsigt, styrk beslutningerne. Tilmeld dig konferencen i...

    It-løsninger | København

    Data & Analytics Day 2026

    Computerworld samler danske cases og skarpe keynotes om operationel brug af data. Få greb til automatisering, generativ AI, predictive analytics og tættere dataintegration. Omsæt analyser til handling i hverdagen. Læs mere og tilmeld dig Data &...

    Andre events | København

    People Tech 2026 - København

    Få indsigt i automatisering, data og AI i HR. Lær hvor HR og IT mødes, hvad der kan skaleres, og hvor ansvar og grænser går. Tilmeld dig og styrk samspillet mellem mennesker og teknologi.

    Se alle vores events inden for it

    Navnenyt fra it-Danmark

    Netip A/S har pr. 17. august 2026 ansat Jesper U. Sørensen som Seniorkonsulent ved netIP's kontor i Esbjerg. Han kommer fra en stilling som Chief Technology Officer hos NetSec ApS, hvor han også var partner. Nyt job
    IFS Danmark A/S har pr. 1. november 2026 ansat Pernille Solvig Graux som Senior Director, Demand Generation. Pernille skal især beskæftige sig med Demand Generation i Europe North. Pernille kommer fra en stilling som Director, Commercial Excellence hos Kahoot. Pernille er uddannet Akademiøkonom. Pernille har tidligere beskæftiget sig med kommerciel ledelse med fokus på salg og marketing. Nyt job

    Pernille Solvig Graux

    IFS Danmark A/S

    Softwarevirksomheden Idura, som udvikler løsninger til digital identifikation og autentifikation, har pr. 1. september 2026 ansat Maria Juliane Friedrichsen, 47 år,  som Office Manager. Hun skal især beskæftige sig med at holde overblik og sikre, at alt på kontoret kører, som det skal. Hun kommer fra en stilling som Office Manager hos Kontorhotellet H2M. Hun er uddannet professionsbachelor i ernæring og sundhed og har en korrekturlæseruddannelse. Hun har tidligere beskæftiget sig med korrekturlæsning og den daglige drift af kontorer. Nyt job

    Maria Juliane Friedrichsen

    Softwarevirksomheden Idura, som udvikler løsninger til digital identifikation og autentifikation,