Den føderale handelskommission FTC har indledt en undersøgelse mod OpenAI for at finde ud af, om selskabets chatbot-teknologi, ChatGPT, har skadet de amerikanske forbrugerne gennem indsamling af data og spredning af falske oplysninger om enkeltpersoner.
Derudover undersøger FTC Open AI’s sikkerhedspraksis. Det skriver The New York Times.
I et 20 siders langt brev, som FTC i denne uge har sendt til OpenAI, stiller kommissionen en række spørgsmål til selskabet heriblandt, hvordan OpenAI træner sine AI-modeller og behandler personlige data. FTC kræver desuden, at OpenAI udleverer en række dokumenter.
I brevet står ifølge The New York Times, at FTC undersøger, om OpenAI ”har udøvet illoyal eller vildledende praksis i forhold til privatlivets fred eller datasikkerhed, eller har udøvet illoyal eller vildledende praksis i forhold til risikoen for skade på forbrugerne.”
Sam Altman: "Vi er sikre på, at vi følger loven"
Sam Altman, som er stifter og direktør i OpenAI, har tidligere sagt, at den hurtigt voksende AI-industri skal reguleres. I maj vidnede han i den amerikanske kongres for at opfordre til lovgivning på området.
Torsdag tweetede Altman, at det er "supervigtigt", at OpenAI's teknologi er sikker.
Han tilføjede: "Vi er sikre på, at vi følger loven" og skriver desuden, at OpenAI vill samarbejde med FTC.
OpenAI har før været under pres fra internationale myndigheder. I marts forbød Italien ChatGPT, da de mente, at OpenAI ulovligt indsamlede personlige data fra brugere og ikke havde et aldersverifikationssystem på plads for at forhindre, at mindreårige blev udsat for ulovligt materiale.
OpenAI gendannede dengang adgangen til systemet måneden efter og sagde, at de havde foretaget de ændringer, som den italienske myndighed havde bedt om.
FTC: Der er ingen kontrol med data
Lina Khan, formand for den føderale handelskommission, sagde torsdag under en høring i House Judiciary Committee, at: "ChatGPT og nogle af disse andre tjenester bliver fodret med en enorm mængde data. Der er ingen kontrol med, hvilken type data der bliver indsat i disse virksomheder."
Ifølge The New York Times kan FTC’s undersøgelse tvinge OpenAI til at afsløre, hvilke datakilder de bruger til at bygge deres A.I.-systemer.
Sådanne informationer har OpenAI hidtil været ret åbne omkring men på det seneste har de kun sagt meget lidt om, hvor dataene til deres A.I.-systemer kommer fra, og hvor meget der bruges til at bygge ChatGPT - sandsynligvis fordi de er på vagt over for konkurrenter og er bekymrede for retssager om brugen af visse datasæt.
Det vil dog sandsynligvis tage flere måneder, før vi bliver klogere på resultatet af undersøgelsen, og det er uklart, om den vil føre til nogen handling fra FTC’s side. Sådanne undersøgelser er private og omfatter ofte afhøringer af topledere i virksomhederne.
I denne uge blev Googles chatbot Bard officielt offentliggjort i Europa, ligesom Tesla-stifter Elon Musk har lanceret sin nye kunstig intelligens-virksomhed xAI.