Selskabet xAI, som ledes af Elon Musk og er kendt for chatbotten Grok, er kommet med et nyt værktøj, som i den grad har vakt opmærksomhed og kontroverser.
Det nye værktøj hedder Grok Imagine, xAIs billed- og videogenerator, og kommer ud til alle SuperGrok- og Premium+ X-abonnenter på deres iOS-app.
Det skriver Techcrunch.
Elon Musk har arbejdet hårdt for at positionere Grok som den frække i klassen af AI-chatbotter.
Den er kendt for at være ufiltreret og grænseoverskridende, og dette er ingen undtagelse.
Den nye kontroversielle billed- og videogenerator giver nemlig mulighed for at generere såkaldt 'not safe for work'-indhold.
Grok Imagine kan forvandle tekst til billeder eller korte videoer, og har sågar en “spicy mode”, som øger mængden af nøgenhed og seksualiseret indhold.
Brugerne kan vælge fire tilstande, som billedet eller videoen kan skabes i: Brugerdefineret, Normal, Sjov og Spicy.
Har skabt røre
Værktøjet har skabt meget opmærksomhed og frygt omkring guardrails, da der fortsat er usikkerhed om, hvor mange restriktioner, der er på værktøjet.
Flere har testet værktøjet for, om der kan laves spicy billeder af kendisser med blandede resultater. Mens Techcrunch oplevede begrænsninger, har andre haft anderledes resultater.
Et andet medie Gizmodo er dog i visse tilfælde lykkedes med det, selvom visse videoer blev sløret. Mediet skriver, at det tyder på, at der er færre begrænsninger, når det kommer til billeder og videoer af kvinder end af mænd.
Mashable beskriver, at værktøjet "mangler grundlæggende beskyttelsesforanstaltninger mod seksuelt indhold og deepfakes."
"Selv når specifikke berømtheder nævnes ved navn, vil Grok Imagine let producere seksuelle deepfakes," fortsætter mediet.
Mediet skriver, at Grok Imagine virker omhyggeligt kalibreret til at udnytte denne gråzonen mellem "pornografisk indhold" som er forbudt ifølge xAI’s restningslinjer og så "seksuelt indhold".
Grok Imagine vil skabe seksuelt suggestive billeder og videoer, men det stopper med at vise faktisk nøgenhed, kys eller seksuelle handlinger, skriver mediet.
The Verge beskriver også, at Grok er blevet brugt til at skabe ucensorerede topløse deepfakes af Taylor Swift, som er gået viralt.
Mediet skriver, at værktøjet "føles som en retssag, der venter på at ske."
Tiden må vise, om det ender sådan eller om Elon Musk og hans hold skynder sig at få selskabets guardrails i orden.
