Artikel top billede

(Foto: Niels de Boissezon)

Test: Sommerens vilde AI-lanceringer gør HP’s mikro-supercomputer til et rigtig godt køb

Det er væltet ind med spændende nyt indenfor open-source AI - og med et er HP's Z2 mini G1a blevet meget mere relevant.

Jeg var sådan set meget begejstret for HP’s kraftfulde kontormus af en pc i form af Zbook G1a.

For bag det musegrå ydre, gemmer sig nemlig hardware, som tilbyder noget ganske unikt i pc-land: store mængder af lynhurtig hukommelse.

Det er den slags som ellers er forbeholdt workstation- eller server-hardware, hvilket som oftest er meget dyrere samt meget sværere at have med.

Det giver gevinst i spil og programmer men giver især fordele, hvis man vil have generativ AI til at fungere lokalt.

Problemet dengang var dog, at udvalget af tilpassede AI-modeller var begrænset. Men det har en vild AI-sommer lavet grundlæggende om på.

Derfor er det glædeligt at få gensyn med platformen, men denne gang serveret i et mikroskopisk kabinet tiltænkt skrivebordet kaldet ’Z2 mini G1a’.

Mægtig mini

HP AI-laptop kunne næppe beskyldes for at være flashy – og selvsamme anklage kan man heller ikke rette mod Z2 mini.

Her bydes på en diskret lille madkasse af en pc, som ikke fylder meget end to paperback-bøger stablet oveni hinanden. Strømforsyningen er endda integreret, hvorfor man ikke har nogen ekstern klods dinglende noget sted.

Det hele er til gengæld pakket i kedeligt sort plast, der på ingen måde indikerer, at maskinen her koster nord for 20.000 kroner. Det bliver til noget af en kilopris, for en maskine, som vejer bare 2,7 kilo.

Z2 mini er en maskine, som der skal bestilles noget på, hvilket afspejler sig i udvalget af porte, hvor der er tre gange thunderbolt/USB-C og to gange displayport at slutte tilbehør til.

Netværksmæssigt er her både 10 Gb Ethernet og wifi 7, hvilket ikke bare er rigeligt, men er så hurtigt, at man kan slutte nogle af disse maskiner sammen og få dem til at afvikle opgaver i tandem.

Det eneste, man kunne savne, er en HDMI-udgang samt en kortlæser, men der er dog en håndfuld klassiske USB-A porte som kan bruges til det løse.

Stærke sager

Inde i dagens tester finder man faktisk lidt mere beskeden hardware end i førnævnte Zbook.

Her tilbydes en Ryzen 9 AI Max 390 Pro som må leve med 12 regnekerner i stedet for de 16 man finder i topmodellen.

Når det gælder hverdags- eller kontor-opgaver, vil man dog næppe opleve den store forskel. Bevares, maskinen er lynhurtig, men man kan relativt let finde kontormaskiner som matcher den på ydelse i både lette og tunge opgaver.

Den væsentlige fordel ved platformen – den lynhurtige hukommelse – er dog til stede. Man får 64 gigabyte LPDDR5X moduler der tilsammen leverer 273 gbps båndbredde omtrent tre gange mere end man får i en potent laptop eller desktop.

Det giver fordele i spil – fordi den indbyggede grafik (som her er den lettere reducerede Radeon 8050S) faktisk kan trække moderne spil i rimelig høj opløsning og kvalitet. Det vigtigste er dog, at her er masser af hukommelse

Den største fordel ligger dog i AI-potentialet, som over de seneste måneder er blevet forløst.

Eksplosiv AI-sommer

Mens sommerens store AI-lanceringer såsom den nye ChatGPT-5 ikke har forbløffet, er der i den nørdede verden for open-source AI sket enorme landvindinger.

Hidtil har udfordringen været, at det krævet ualmindelig potent hardware at få nogenlunde anvendelig sprogmodeller til at spille. Eller at man omvendt var indstillet på at vente i evigheder, på at ens beskedne hardware har tygget sig igennem opgaven.

I de seneste måneder er der intet mindre end fem nye open-source AI-modeller sluppet løs, som rokker gevaldigt ved, hvad der kan forventes.

Modellerne er i størrelsesordenen på mellem 30-120 milliarder parametre, hvilket placerer dem i en klasse under de førende modeller, men gør dem store nok til, at kan levere brugbare resultater som er sammenlignelige med og til tider bedre end gratisversionerne af ChatGPT eller Claude.

Det særlige ved den nye klasse af modeller er, at de ud over at være dygtige, samtidig er bygget omkring en ’Mixture-of-Experts’ arkitektur (MoE), som kun kræver en brøkdel af den regnekraft, som tidligere såkaldte ’dense’ modeller kræver.

Med andre ord har vi nu fået en række modeller, som kan udnytte de store mængder ram, men som ikke er for regnetunge. Af disse kan fremhæves:

  • OpenAI’s OSS (20B og 120B)
  • Alibabas Qwen3 (30B)
  • Zhipu AI: GLM 4.5 Air (117B)
  • Metas Llama 4 Scout (109B)

AI i praksis

Min sædvanlige AI-tests involverer den rudimentære Llama 3 8B model, som Z2 mini leverer sunde 33 tokens per sekund i. Der skal typisk et til to tokens per ord, hvorfor der svares hurtigere end de fleste kan læse.

Andre maskiner performer dog bedre, fordi dedikerede grafikkort typisk leverer langt mere båndbredde.

Der hvor platformen træder i karakter, er med de nævnte ’MoE’-modeller, som er større, men mindre regnekrævende.

En model som Qwen 30B (A3B og Q6) leveres der til gengæld hele 42 token per sekund i – til trods for at modellen er mere end fire gange større end Llama 3 og leverer kvalitetsmæssige langt bedre og anvendelige svar.

Jeg havde dog håbet at kunne køre OpenAI’s spritnye OSS 120B model, men kun 48 af de ombordværende 64 gigabyte hukommelse kan adresseres, hvilket gør at modellen præcis bliver for stor.

Ud fra de 50+ tokens/sekund der opnås med OSS 20B, vil jeg nu estimere at 30 tokens/sekund kan forventes med den dyrere 128 gigabyte topmodel. En anden sværvægter, GLM 4.5 Air (107B Q2), kunne jeg dog få til at levere knap 20 token/sekund.

Det skal i øvrigt bemærkes, at disse opgaver er noget, der sætter computeren på prøve. Z2 mini er dog bygget omkring laptop-hardware, som i sagens natur er noget mere strømvenligt end desktop-ditto. Det afspejler sig i en blæserstøj, som holdes på et mindeligt niveau – selv under pres.

En lille AI-workstation

Z2 mini G1as superkræfter ligger i adgangen til store mængder lynhurtig hukommelse – noget som der enten skal betales i dyre domme i enten server hardware, dyre Mac-enheder eller hundedyre grafikkort.

Den mest interessante model bliver derfor ikke dagens tester til omkring de 20.500 kroner – for denne leveres alene med 64 gigabyte hukommelse og en enkelt terabyte hukommelse.

Her vil jeg kraftigt opfordre til at udvide budgettet til 28.000 kroner for at få hele 128 gigabyte lynhurtig hukommelse (og fire terabyte lager) – som åbner op for større, mere anvendelige AI-modeller.

Selvom det kan lyde som mange penge, ender Z2 mini med at være et stærkt køb med evner, som man skulle have hardware i sværvægter-klassen for at matche.

Ret beset skal du investere i server-grej eller en velekviperet Mac Studio for over 50.000 kroner, for at få samme evner og højere ydelse.

Dertil er HP’s løsning lige til at implementere i et professionelt miljø, med selskabets indbyggede MDM-løsninger og Wolf-sikkerhedspakke.

Man kan altså få hurtigere for pengene, men har man behov for lokale AI-muligheder, gør sommerens udviklinger indenfor open-source kunstig intelligens Z2 mini til et unikt tilbud.

Det udløser fire stjerner - men har du behov for lokal AI fortjener den en ekstra stjerne.