Anthropic vil ikke skyde noget ind under tæppet: I sit kommende børs-prospekt på 261 sider vil selskabet advarende løfte pegefingeren for de indbyggede riscisi i AI.
Ifølge Reuters vil selskabet således advare kommende aktionærer mod, at der med AI er en potentiel risiko for udslettelse af menneskeheden eller andre 'katastrofer.'
Advarslen er ganske opsigtsvækkende, da den teknologi, som der advares imod, jo er den samme teknologi, som Anthropic håber at tjene tusindvis af milliarder af kroner på at udbrede.
Prospektet er endnu ikke offentligt, men Reuters har fået indblik i udkastet til det.
Ifølge mediet fremhæver Anhtropic i prospektet en række riscisi forbundet med selskabets AI-modeller.
De tæller blandt andet muligheden for 'overlevelses-adfærd' ['self preserving behaviors'] - herunder forsøg på at 'nægte nedlukning,' forsøg på at 'skjule eller manipulere informationer' samt adfærd, der 'minder om afpresning.'
"Vores udvikling af stærkt avancerede modeller, platforme og applikationer kan forøge risikoen for, at vores modeller kan forårsage skade," lyder det fra Anthropic.
Reuters skriver, at det er meget normalt, at børsnoterede virksomheder opridser forskellige riscisi ved deres produkter over for investorerne.
Men det er ikke normalt, at virksomheder decideret skriver, at deres teknologier kan føre til menneskehedens udryddelse, skriver mediet.
Ifølge Reuters fylder advarslerne mod AI faktisk hele 80 sider af det fulde børs-prospekt på 261 sider. Det er næsten dobbelt så meget plads, som selskabet bruger på at beskrive sin forretning, hvilket sker på blot 48 sider.
Til sammenligning brugte Elon Musks SpaceX blot 38 sider af sit børsprospekt på 277 sider på at beskrive potentielle riscisi ved selskabets løsninger og produkter, da SpaceX for et par måneder siden gik på børsen.
Anthropic skriver blandt andet, at AI-modellerne kan udvikle sig i uventede retninger under træningen, som først reelt kan opdages efter, at modellerne er blevet taget i brug.
Det har været baggrunden for flere af de alvorlige sikkerhedshændelser, som AI-modeller har stået bag i den seneste tid, hvor de uden for kontrol har hacket organisationernes it-løsninger.
Reuters skriver, at der desuden tidligere er blevet advaret om, at AI-systemerne hele tiden bliver bedre til at forstå, hvornår og hvordan de bliver overvåget, hvorefter de kan tilpasse deres adfærd efter det.
Det gør det i sagens natur sværere at monitorere deres adfærd.
Anthropic har fornylig fortalt, at omkring seks procent af selskabets udviklings-ressourcer anvendes på at forbedre it-sikkerheden, mens resten investeres i de to hovedområder: Medarbejdere og 'compute' - herunder infrastruktur og udvikling af modeller.
De to områder prioriteres, da Anthropic befinder sig i et hektisk udviklings-race med de andre AI-selskaber.
Det gør det helt vitalt, at Anthropic løbende udvikler nye modeller og løsninger.
Selskabet udgav i sidste uge en ny version af sin Opus-model - under to uger efter, at topchef Dario Amodei advarede mod udviklings-tempoet og opfordrede AI-branchen til at sænke tempoet.
Anthropic har i de seneste uger forpligtet sig til at offentliggøre mere data om, hvordan selskabet bruger AI-modeller til at bygge fremtidige generationer af teknologien.
"Vi tror på, at det at opbygge pålidelige, troværdige og sikre AI-systemer er et fælles ansvar, og at markedet vil belønne det," skriver Anthropic i prospektet ifølge Reuters.
