Forestil dig, at personen på Teams-mødet ikke eksisterer.
At kollegaen, investoren eller den potentielle kæreste i den anden ende i virkeligheden sidder i et scam-compound i Cambodja og styrer et digitalt ansigt som en marionetdukke.
Superrealistiske deepfakes er ikke længere science fiction.
En kinesisk software ved navn Haotian AI gør det muligt at skifte ansigt live under videoopkald på blandt andet WhatsApp, Microsoft Teams, Zoom, TikTok, Instagram og YouTube.
Det dokumenterer amerikanske 404 Media i en omfattende undersøgelse, hvor mediet har fået fingrene i et fungerende eksemplar af softwaren og testet den i praksis.
Resultatet viser sylespidst, hvor skræmmende præcist, at teknologien er blevet.
Med blot tre til otte billeder af et mål kan Haotian AI forvandle brugeren til stort set hvem som helst foran kameraet. I demonstrationer bliver en asiatisk kvinde til den israelske supermodel Gal Gadot. Andre brugere morphes til Elon Musk og Jackie Chan.
Den deepfakede person kan knibe sig i kinden, føre hænderne hen over ansigtet og bevæge hovedet frit, uden at masken falder af, skriver mediet.
Det er ikke længere den klassiske stive deepfake, der flimrer sammen ved første bevægelse. Ansigtet følger med i realtid.
Slipper forbi deepfake-detektorerne
Det mest foruroligende er måske, at softwaren heller ikke kun narrer mennesker.
Ifølge en undersøgelse fra juni sidste år slap Haotian-prøver næsten perfekt igennem forskningsmodellen Xception, der ellers bruges til at afsløre syntetiske videoer. Modellen klassificerede næsten 100 procent af prøverne som “autentisk.”
Samtidig fungerer Haotian AI som enhver anden moderne SaaS-forretning med hyldevarer.
404 Media sporede prisen til 1.998 dollar årligt - cirka en tusse om måneden, mens man kan købe en skræddersyet ansigtsmodel til 498 dollar Betalingen foregår i stablecoinen Tether via TRON-blockchainen.
Hvis man skal have hjælp fra supporten, så foregår det - selvfølgelig - på røverbuleappen Telegram.
Her fjernstyrer teknikere kundernes computere via AnyDesk og installerer hele systemet på få minutter.
404 Media har udført tekniske analyse, der viser, at værktøjet på open source-softwaren inswapper, som allerede ligger frit tilgængeligt på Hugging Face. InsightFace, der vedligeholder modellen, kalder ifølge 404 Media brugen “en direkte krænkelse” af licensens hensigt og afviser enhver tilknytning til Haotian AI.
Selv teknisk uerfarne svindlere kan nu shapeshifte foran kameraet med få klik.
Fire millioner dollar fra scam-miljøer
Blockchain-analysefirmaet Chainalysis har sporet mere end fire millioner dollar i indbetalinger til Haotians wallets siden oktober 2023.
Pengestrømmene leder ifølge rapporten ind i kinesisk-sprogede Telegram-miljøer, der servicerer de berygtede scam-compounds i Sydøstasien.
De samme områder, hvor menneskehandlede ofre ifølge internationale NGO'er tvinges til at udføre romance scams, investeringssvindel og virtuelle kidnapninger.
Selskabet er samtidig på vej ind i næste marked.
Nu reklamerer Haotian AI også med et værktøj, der angiveligt kan omgå Know Your Customers-verifikationer ved at styre videoen af en kunstig person, der kigger direkte ind i et virtuelt kamera. Det må skabe seriøst dybe rynker i den finansielle sektor.
Techgiganterne famler efter svar
Zoom oplyser til 404 Media, at virksomheden til sommer lancerer realtidsdetektion af syntetisk lyd og video for netop at lukke det lukrative svinder-marked.
Microsoft, TikTok, Google og Meta gav derimod ingen konkrete svar på, hvordan de vil håndtere truslen, påpeger mediet.
Mens Silicon Valley stadig taler om AI-agenter og produktivitetsgevinster, er den kriminelle underverden allerede i gang med at vende cybermaskingeværet mod verdens mest brugte videoplatforme.
Da 404 Media sendte Haotian AI en liste med spørgsmål, lød det iskolde svar blot:
“OK.”
