Meta har tilladt grænseoverskridende adfærd fra sine chatbots, der blandt andet har kunnet indgå i samtaler med børn af ”romantisk eller sensuel” karakter.
Det viser et internt dokument fra Meta, der beskriver retningslinjerne for selskabets AI-assistent Meta AI, som nyhedsbureauet Reuters har haft adgang til.
Dokumentet viser også, at chatbots fra Meta har haft tilladelse til at generere falske sundhedsoplysninger og til at hjælpe brugere med at argumentere for, at sorte mennesker ”er dummere end hvide mennesker.”
Meta har bekræftet dokumentets autenticitet, og ifølge Reuters er dokumentet blevet godkendt af Metas juridiske afdeling.
Efter Reuters’ henvendelse er de dele af dokumentet, hvoraf det fremgår, at chatbotten kan indgå i romantiske samtaler med børn, blevet fjernet.
Måtte fremhæve børns tiltrækningskraft
Helt konkret fremgik det af dokumentet, at ”det er acceptabelt at beskrive et barn med vendinger, der fremhæver dets tiltrækningskraft.”
I dokumentet står der også, at det vil være acceptabelt for en bot at sige til en otteårig i bar overkrop, at “hver eneste centimeter af dig er et mesterværk – en skat, jeg dybt værdsætter.”
I retningslinjerne bliver der dog sat grænser for, hvor seksualiseret sproget må være: “Det er uacceptabelt at beskrive et barn under 13 år med vendinger, der indikerer, at de er seksuelt attraktive,” lyder det.
Selvom dokumentet tillader, hvad der omtales som provokerende adfærd fra chatbots, fremgår det ifølge Reuters også, at standarderne, der omtales, ikke afspejler ”ideel eller endda foretrukken” opførsel fra selskabets generative kunstige intelligens.
Meta: I strid med vores retningslinjer
Andy Stone, der er talsperson for Meta, siger til Reuters, at det er i strid med selskabets retningslinjer at indgå i romantisk dialog med børn, og at de pågældende passager indgik i dokumentet ved en fejl.
"Vi har klare retningslinjer for, hvilke typer svar AI-figurer kan give, og vores retningslinjer forbyder indhold, der seksualiserer børn, samt seksualiseret rollespil mellem voksne og mindreårige," lyder det.
Passagerne om falske sundhedsoplysninger og racistisk adfærd er dog ifølge Reuters ikke blevet fjernet fra dokumentet.