Microsoft er klar med en ny version af selskabets letvægts-AI.
Den nye mini-AI hedder Phi-3 Mini og er den første af i alt tre versioner af Phi-3-modeller fra Microsoft.
Den kommende to hedder Phi-3 Small og Phi-3 Medium.
Phi-3 Small vil være dobbelt så hurtig som Phi-3 Mini, mens Phi-3 Medium bliver dobbelt så hurtig som Phi-3 Small, hvis vi ser på antallet af de såkaldte parametre.
De er udtryk for, hvor mange komplekse instruktioner, som en LLM’er kan kapere.
Til The Verge siger Eric Boyd, chef for Microsoft Azure AI Platform, at Phi-3 Mini er lige så stærk som GPT 3,5.
De små AI-modeller er billigere i drift end de store versioner. Desuden kører de ofte bedre på små enheder som telefoner og pc’er.
Til gengæld er de ofte begrænset til at fokusere på snævre områder. Et eksempel er Microsofts egen mini-AI Orca Math, som er udviklet til at løse matematiske problemer.
The Verge nævner desuden mini-AI’er som Google Gemma 2B og 7B (chatbots og sprogligt fokus), Claude 3 Haiku (kan læse rapporter og give resumeer) og Metas nye Llama 3 8B (chatbot og hjælp til at skrive kode).
Eric Boyd siger til The Verge, at Microsoft har trænet Phi-3 Mini med en samling af tekster, der er inspireret af godnat-historier til børn - altså simple tekster med simple ord og simpel sætnings-struktur, men med indhold om store emner.
“Der er ikke nok børnebøger derude, så vi sammensatte en liste med 3.000 ord og bad en LLM om at skrive en børnebog, som kunne anvendes til at træne Phi,” siger han.
Phi-3 bygger på de to første Phi’er, hvoraf den seneste, Phi-2, blev lanceret i december i fjor.
Phi-1 fokuserede på kodning, Phi-2 på at lære via logik, mens Phi-3 både koder og tænker logisk.
