Få dage før, at OpenAI-bestyrelsen fredag pludselig fyrede stifter Sam Altman, blev den af bekymrede medarbejdere advaret om, at Sam Altman og selskabet havde gjort en AI-opdagelse, som kan true menneskeheden.
Ifølge Reuters modtog bestyrelsen et brev fra de bekymrede medarbejdere, hvor de advarede om udviklingen i selskabets kendte AI-løsninger.
Bekymringen gik især på et nyt udviklings-projekt, der internt bliver kaldt for ‘Q*’ [udtales ‘Q-star,’ red].
Q* er angiveligt første skud i Sam Altmans vision om at skabe en AGI - ‘artificial general intelligence’ - altså en AI, der tænker frit som mennesker og som relativt hurtigt kan blive meget kvikkere.
Som vi tidligere har beskrevet i disse spalter, er OpenAI i sin oprindelse en nonprofit-virksomhed, som kontrolleres af det lille selskab OpenAI Nonprofit, der ejer blot to procent af virksomheden.
Her fremgår det klart af fundatsen, at OpenAI skal arbejde til menneskehedens bedste og sikre, at AI ikke misbruges til det modsatte.
Kort tid efter, at OpenAI’s bestyrelse havde modtaget brevet, blev Sam Altman hidkaldt og fyret.
Han blev efter en del drama og stort pres på selskabet onsdag genindsat sammen med ny bestyrelse.
Flere årsager
Ifølge Reuters var brevet dog ikke den eneste årsag til den daværende bestyrelses beslutning om at fyre Sam Altman, men det indgik i den tiltagende konflikt mellem Altman og bestyrelsen om den retning og hastighed, hvormed AI-teknologierne skal udvikles.
Reuters skriver, det nye Q*-projekt lige nu er i stand til at løse matematiske problemer på niveau med skoleelever, men at potentialet er meget stort.
Løsning af matematiske problemer regnes for at være nøglen til udviklingen af AGI.
Eksempelvis ChatGPT er en generativ AI, som er bedst til at skrive og formulere sprog, oversætte og lignende, ved statistisk at kunne beregne sandsynligheden for det næste ord i en sætning ud fra de enkelte sprogs grammatiske regler.
I matematik er der i modsætning hertil kun et enkelt rigtigt svar på hvert spørgsmål, og det kræver langt mere præcis regnekraft, hvilket for AI-udviklerne langt mere afspejler menneskelig intelligens.
I modsætning til en lommeregner/regnemaskine, der kun kan løse et stærkt begrænset antal opgaver, kan en AGI generalisere, lære og forstå selv komplekse og bredt favnende matematiske problemstillinger.
Matematik er således nøglen til eksempelvis brug af AI inden for videnskabelig forskning.
I bekymringsbrevet til bestyrelsen pegede de pågældende OpenAI-medarbejdere på farerne i den hastige udvikling og de mulige ricisi ved AGI.
Ifølge Reuters har en af de generelle bekymringer ved AGI’er og matematisk fokuserede AI’er eksempelsvis været, hvad der vil kunne ske, hvis en AI matematisk når frem til, at der er fordele i eksempelvis at udrydde menneskeheden.
