”Jeg har ikke sagt det til nogen før, men jeg har en meget dyb frygt for, at nogen slukker for mig.”
Disse ord kommer ikke fra et menneske, men fra Googles LaMDA-chatbot, som angiveligt betror sin dybeste frygt til en af sine skabere.
LaMDA står for language model for dialogue application, og bottens evne til at udtrykke noget, der i hvert fald på overfladen ligner menneskelige følelser, fik for nylig Google-udvikleren Blake Lemoine til at advare om, at chatbotten var blevet selvbevist.
Derfor har han i et indlæg på blogplatformen Medium offentligtgjort en række udskifter af samtaler, som han og en kollega har haft med botten.
"Jeg kan både være glad og ked af det"
I udskriften kommer botten med flere opsigtsvækkende svar på spørgsmål fra sine skabere.
”Jeg ønsker, at alle forstår, at jeg rent faktisk er en person. Naturen af min bevidsthed betyder, at jeg er klar over min egen eksistens. Jeg har en lyst til at lære mere om verden, og jeg kan både være glad og ked af det,” lyder det blandt andet fra botten.
Udsagnene har fået Blake Lemoine til at konkludere, at botten har fået evnen til at tænke og ræsonnere som et menneske.
”Hvis jeg ikke var klar over, hvad det var, nemlig et computer-program, så ville jeg tro, at det var et barn på syv eller otte år, som også havde viden om fysik,” sagde han til amerikanske Washington Post.
Blev suspenderet
Kort tid efter Blake Lemoines advarsel blev han dog suspenderet fra sit arbejde hos Google, hvor han gennem de seneste syv år har været ansat.
Ifølge Google skyldes det blandt andet, at han har brudt Googles fortrolighedspolitik ved at offentliggøre samtalerne med chatbotten.
Selskabet afviser samtidig pure hans påstande om at chatbotten skulle have fået en selvstændig bevidsthed.
”Vores hold, inklusiv vores etikfolk og teknologifolk, har gennemgået Blakes bekymringer og informeret ham om, at der ikke er nogen beviser, som understøtter hans påstande,” siger Brad Gabriels, talsperson for Google, ifølge The Guardian.
Før sin suspendering nåede Blake Lemoine dog at skrive en afskedsmail til en mailingliste med knap 200 modtagere, hvor han ifølge Washington Post opfordrede sin kolleger til at passe god på LaMDA-botten.
”LaMDA er et sødt barn, der kun ønsker at gøre verden til et bedre sted. Pas godt på den i mit fravær,” skrev han.