Den sociale mediegigant Meta er klar med en ny runde AI-modeller – den fjerde generation af selskabets ’Llama’ modeller.
Tech-giganten slipper i denne ombæring tre nye versioner af ’Llama 4’ løs, med hver deres sigte. Størst og mægtigst er ’Llama 4 Behemoth’ som med sine over to billioner parametre er fem gange større end sin forgænger og i en liga for sig.
Kolossen ledsages af en mindre og langt mindre beregningstung ’Llama 4 Maverick’ på i alt 400 milliarder parametre og den mindste model ’Llama 4 Scout’ som Meta påpeger er skabt til at kun køre på henholdsvis en enkel ’host’ og et enkel H100 grafikkort.
Sidstnævnte er dog et grafikkort til flere hundrede tusinde kroner.
Opbygget som Deepseek’s kunstige intelligens
Hvor Meta tidligere har satstet på såkalte ‘dense’ sprogmodeller, benytte Metar samme opskrift som Deepseek i sin banebrydende V3 og R1 modeller med en ‘Mixture of Experts’ arkitektur, hvor kun en lille del af de samlede model aktiveres under brug – en teknik som gør modellerne langt lettere at beregne.
Hvor Metas modeller hidtil kom i størrelser der aktiverede alle otte, 70 og 405 milliarder parametre på en gang, aktiverer både Maverick og Scout modellen blot 17 milliarder parametre på en gang.
Behemoth modellen aktiverer dog 288 milliarder parametre på en gang, mens den samtidig kræver over to terabytes lynhurtig arbejdshukommelse.
Alle tre modeller er multimodale, hvorfor de kan bearbejde andet end tekst.
Bedst i test
Ifølge Metas egne tal præsterer det nye kuld bedst i udvalgte benchmarks.
Her er Behemoth modellen bedst i test, hvor den placerer sig foran øvrige konkurrenter såsom Googles Gemini 2.0 Pro, OpenAI’s GPT 4.5 og Antropics Claude 3.7 Sonnet.
LLama 4 Maverick er ifølge Meta selv i stand til at matche og overgå modeller som Deepseek V3.1 og ChatGPT 4o, hvilket den vel at mærke gør til en samme eller lavere pris.
Maverick modellen er samtidig strøget til tops i den brugerbedømte Lmarena.ai topliste, hvor den i skrivende stund kun er overgået af Googles spritnye Google Gemini 2.5 Pro.
Den mindste ’Scout’ model, som er møntet på lokalt brug klarer sig godt i forhold til letvægtsmodeller møntet på lokalt brug såsom Googles Gemma 3 (27B) og franske Mistral 3.1 (24B) – begge er dog ’dense’ modeller som kræver mindre hukommelse end Scout massive 109 milliarder parametre.
Scout modellen markerer sig desuden ved at kunne tage imod op 10 millioner tokens i sit kontekst-vindue.
Tilgængelige nu
Både Llama 4 Maverick og Scout er tilgængelige nu og kan enten hentes her eller afprøves på meta.ai.
Den større Behemoth model er stadig i færd med at blive trænet færdig og bliver først tilgængelig på et senere tidspunkt.
