Nu kan du køre din egen GPT på din computer: Mød Nvidias ’Chat med RTX’

Nvidias nye 'Chat with RTX' værktøj gør det muligt at skabe en skræddersyet chatbot krydret med egne lokale data.

Artikel top billede

(Foto: Nvidia PR)

En AI-chatbot er noget der oftest har krævet kolossale mængder regnekræfter, mere end hvad din typiske maskine på skrivebordet typisk kan tilbyde. Men nu dukker nye muligheder op.

Hvor OpenAI’s ChatGPT, Microsofts Copilot og Google Gemini AI-chatbots afvikles alle sammen hos de respektive selskabers omfattende server-farme, tilbyder Nvidia nu at AI-chatbot værktøj, som du kan køre direkte fra din bærbare eller desktop-maskine.

Programmet hedder ’Chat with RTX’ og gør det muligt at køre et udvalg af storskalasprogmodeller uden opkobling til nettet – forudsat at du har en potent maskine at afvikle det på.

Høje systemkrav

For at kunne køre ’Chat with RTX’ kræver Nvidia at du har et nyere Windows 11 system udstyret mindst 16 gigabyte hukommelse og et Nvidia RTX-grafikkort i enten 3000 eller 4000 serien.

Kortet skal samtidig være udstyret med mindst otte gigabyte hukommelse, hvilket udelukker low-end udgaver af 3000 og 4000 serierne. RTX 2000 serien kan dog blive understøttet på sigt, forsikrer Nvidia.

Programmet kræver samtidig en hel del plads. Download-filen alene vejer 35 gigabyte, hvorefter den henter yderligere data, før modellen kan installeres, som noteret af netmediet Toms Hardware.

Skræddersyet chatbot

Ud over at kunne køres lokalt, skilter Nvidia med, at modellerne kan tage imod brugerens filer, for at tilbyde skræddersyede chatbot-svar.

Her kan importeres et væld af filtyper såsom .txt, .pdf, word og XML-dokumenter mens der også kan downloades YouTube-videoer, der kan transskriberes og inkluderes i chatboten, til at generere blandt andet opsummeringer og transskriberinger.

Selve modellerne der anvendes, er open-source modeller såsom Mistral eller Llama 2 kombineret med Nvidias ’Retrrievel-Augmented Generation’ (RAG).

Programmet kan hentes her og ses i aktion i videoen nedenunder.

Annonce

Event: Computerworld Summit 2027 - Aarhus

Digital transformation | Aarhus C

Styrk din digitale strategi med konkret brug af AI og ny teknologi. Mød 250 it-professionelle, få indsigter, løsninger og netværk på én dag. Computerworld Summit i København viser hvordan teknologi skaber forretningsværdi – her og nu.

25. maj 2027 | Gratis deltagelse

Navnenyt fra it-Danmark

Vektus A/S har pr. 22. oktober 2026 ansat Jim Neble som Consultant Manager. Han skal især beskæftige sig med konsulentchefopgaven i Jylland. Han kommer fra en stilling som ERP Manager hos Kvik. Han er uddannet indenfor økonomi og Business Andministration samt Cand.merc. i strategi, organisation og ledelse. Han har tidligere beskæftiget sig med Konsulentopgaver indenfor Business Central i partnerkanalen. Nyt job

Jim Neble

Vektus A/S

Netip A/S har pr. 1. november 2026 ansat Jacob Vendelbo som Finance Business Partner ved netIP Aalborg. Han kommer fra en stilling som CFO hos SmartVan.dk. Nyt job

Jacob Vendelbo

Netip A/S

T-Systems har pr. 11. november 2026 ansat Henrik Fugmann som Industry Lead, Public Sector. Henrik skal især beskæftige sig med forretningsudvikling indenfor den offentlige sektor med fokus på digital suverænitet, herunder cloud, AI og sikkerhed. Henrik kommer fra en stilling som Business Director hos DXC Technology. Nyt job

Henrik Fugmann

T-Systems

Fellowmind Denmark A/S har pr. 1. september 2026 ansat Morten Jakobi som Business Unit Director. Han skal især beskæftige sig med at samle og udvikle Fellowminds forretning inden for Managed Services, Cloud Infrastructure & Security. Han kommer fra en stilling som Chief Executive Officer hos Inventio.it A/S. Han har tidligere beskæftiget sig med Ledelse og udvikling af Managed Services, serviceforretninger og transformation i Norden og Benelux. Nyt job

Morten Jakobi

Fellowmind Denmark A/S