Det er ikke alle AI-opgaver, der behøver de tungeste AI-modeller. Mindre, hurtigere og billigere modeller kan ofte klare enkle opgaver lige så godt.
Hos det toneangivende AI-selskab Anthropic har fokus længe hvilet på virksomhedens førende modeller, som måned for måned har rykket den såkaldte ’frontier’, mens selskabets ’Haiku’ discount-model har været overset i næsten et år.
Denne uge løftes Haiku en række versionsnumre op, så den nu springer fra version 4.5 til 5.5, hvilket Anthropic lover gør den ideel til ’høj volumen og prisfølsomme opgaver’ – mens modellen samtidig bliver selskabets billigste nogensinde at anvende.
Kvik og billig
Haiku 5.5 er ifølge Anthropic selv optimeret til at levere en rimelig intelligens og servere den hurtigt og til ekstra lave priser.
Modellen kan nu indstilles til varierende grader af eftertænksomhed, hvilket gør det muligt at styre, hvor mange tokens der skal bruges på at løse en opgave – og dermed også hvor meget der skal spenderes på en opgave.
Med Haiku 5.5 følger en ny prisstruktur, som er op til 90 procent lavere per token, som resulterer i, at den nye model ifølge Anthropic i snit vil være 75 procent billigere at køre end sin forgænger.
Anthropic pointerer samtidigt, at Haiku 5.5 er selskabets hurtigste model til dato ved hvert et givent ’effort’-niveau. Den nyeste Opus-model kan dog overhale den ved at slå den særlige ’Fast Mode’-indstilling til.
Et vildt år
Haiku koster 0,10 dollar per million input token og 0,5 dollar per million output-token, svarende til en tiendedel, af mellemklassemodel Sonnet 5.5’s prissætning . Den intelligens der leveres, er derimod langt højere end discount-prissætningen antyder.
Ifølge det uafhængige benchmark-selskab Artificial Analysis leverer Haiku 5.5 en samlet intelligens-score på op til 43 points, ved dens maksimale ræsonnementstrin, hvor dens umiddelbare udfordrer fra OpenAI, GPT-6 Luna (Max), scorer 38 points.
Claude Haiku 4.5, som næste uge kan fejre et års jubilæum scorer her alene 17 points, hvilket illustrerer hvor stor udviklingen har været igennem det seneste år.
Anthropics egne tal fortæller samme historie, hvor Haiku formår at placere sig foran GPT-6 Luna i af selskabets udvalgte testdiscipliner, men den forrige model halser langt efter den nye version.
