Er du som de fleste, så fejler din pc ikke noget.
Den er hurtig nok, til det du bruger den til, og selvom skærmen måske kunne være lidt skarpere, eller batteriet kunne holde lidt længere, så rækker din pc til kontoropgaver, browsen på nettet og måske endda en film af og til.
Sagen er nemlig den, at de krævende opgaver, der virkeligt kunne presse en maskine, 4K-videoredigering, 3D-rendering eller store kodebaser, længe har været niche-prægede – og dermed ikke noget, de fleste har haft behov for at vente på.
Men nu kommer AI’en og vender op og ned på det hele – og laver særligt om på, hvad der kræves af hardware.
Indtil nu har argumentet lydt, at kunstig intelligens er så regnekrævende, at det kræver dyre cloud-abonnementer eller storkøb af tokens i millionmål, hvis der skulle kunne laves noget nyttigt med AI.
Samtidig med at markedets førende kunstige intelligens udvikler sig hastigt, foregår der en lige så hæsblæsende udvikling på den AI, som du faktisk selv kan få fingre i.
Nye modeller og platforme
Open-source sprogmodeller, eller bare sprogmodeller med åbne vægte, er der ikke noget nyt i.
Nyheden ligger nu i, at der begynder at dukke modeller op, som ikke kræver et dedikeret datacenter, og som samtidig er tilstrækkeligt kapable, så de faktisk giver værdi.
En model såsom Qwen 3.8 Flash Next er i dag nogenlunde sammenlignelig med, hvad gratisversionerne af ChatGPT og Claude tilbyder, men kan altså køre lokalt på din bærbare eller desktop, såfremt den har et nyere dedikeret grafikkort og en god portion hukommelse (typisk 64 gigabyte eller mere).
Alt efter disciplin svarer det til det, som førende AI-tjenester overhovedet kunne mønstre for under et år siden, dengang topmodeller hed Claude Opus 4.6 og GPT 5.0.
Dermed går lokal kunstig intelligens fra at være et niche-foretagende med begrænsede anvendelsesmuligheder, til noget der for under et år siden var værd at betale for.
Lige så afgørende for de lokale muligheder er, at der er sket en rivende udvikling indenfor platforme til afvikling af lokale AI.
Apps såsom Strata gør det eksempelvis muligt at klemme maksimalt med ydelse ud af ens hardware i samspil med et dedikeret grafikkort, mens hardware-dedikerede inferens-motorer såsom GUFO til AMD-processorer eller DS4 til Apple- og Nvidia-processorer kan flerdoble ydelsen.
Hastigheden til forskel
Landvindingerne gør, at min seneste kontormaskine, en Gigabyte Aero X16 med RTX 5060 grafik, kan indlæse halvanden til to siders tekst per sekund og skrive to til tre sider per minut med den dygtige Qwen-model.
Det er anvendeligt, men betragteligt langsommere end hvad ChatGPT og Claude tilbyder, da disse tjenester typisk er to til fire gange hurtigere om at tænke og svare.
Kvaliteten er der, men hvis du vil have hastigheden op, skal du op i den nye klasse af pc’er bygget omkring en såkaldt ’unified memory architecture’, hvor en enkel chip med både indbygget processor og grafik er knyttet til store mængder af lynhurtig fælles hukommelse.
Her er Apple pioneren med sine M-processorer i Pro og Max-varianterne, da de var først til at tilbyde flere hundrede gigabyte per sekund i båndbredde, som samtidig bliver leveret i rigelige mængder på 64 gigabyte eller derover.
En nyere udvikling er integrationen af både AI-optimeret hardware og grafik, hvilket AMD introducerede med sin Strix Halo-platform i 2025 og som Apple indførte med M5 og M6-generationerne af sine processorer.
Mest interessante udvikling ser man hos chip-magnaten Nvidia som dette efterår er klar med de første ’RTX Spark’ enheder, som forener 20 regnekerner, over 6.000 AI-optimerede grafik-kerner og parrer dem sammen med op til 128 gigabyte hukommelse med hele 300 GB/s båndbredde.
Lokale fordele
Ud over at spare et abonnement, er der andre håndgribelige fordele ved at have din AI holdende på egen matrikel.
Hver gang du beder ChatGPT eller Claude om at gennemgå en kontrakt, oplysninger fra din patientjournal eller spørger ind til intime emner, sender du dine oplysninger til servere i udlandet.
Med en lokal model bliver det meget enklere at efterleve GDPR-regler eller bare at benytte kunstig intelligens uden at dele ens digitale liv med en amerikansk tech-gigant.
Der er et økonomisk aspekt ud over abonnementet. Når først hardwaren er betalt, koster det kun strøm at bruge AI’en.
Du kan lade den tygge sig igennem tusindvis af dokumenter eller arbejde som kodeassistent eller research-agent hele natten uden at ramme et forbrugsloft eller få en overraskende regning.
Til sidst giver du dig selv magt over din AI-tjeneste. Din model ændrer sig ikke fra den ene dag til den anden, når udbyderen opdaterer den, strammer reglerne eller skifter den ud.
Samtidig vil den lokale AI også virke i toget, i sommerhuset med den dårlige forbindelse, eller når en af de store tjenester er nede.
Gryende brugervenlighed
Det er ikke længe siden, at det krævede en vis fortrolighed med en prompt-terminal, Linux-opsætninger og kompilering, før du kunne få de lokale AI-modeller i spil.
Det er hastigt ved at ændre sig.
Programmer såsom LM Studio og Unsloth Studio gør det let at få AI til at virke i både Mac og Windows-miljøer, mens et program som Strata kan forvandle en gaming-pc til en AI-maskine ved få klik.
Dertil er chat-tjenesterne også blevet kompetente til at guide nye brugere i, hvordan en lokal AI kan opsættes.
Brugervenligheden kan dog inden længe få endnu et nøk op, da det forlyder, at Apple er i færd med at udvikle en app dedikeret til at få lokale AI-modeller til at spille ikke bare på en, men også fordelt på flere enheder, for at få større modeller i spil.
