Anthropic, der står bag AI-modellen Claude, hævder at have blokeret flere tilfælde, hvor brugere kan have forsøgt at bruge AI-løsningen til at udvikle biologiske våben
.
Det fremgår af en ny trusselsrapport, som Anthropic har udgivet.
Her fremhæver selskabet i alt fem eksempler på situationer, hvor aktører har haft interaktioner med Claude om ting, der kan relatere sig til biologiske våben.
Det drejer sig blandt andet om eksempler, hvor forskere brugte flere uger på at planlægge forsøg med at tilpasse fugleinfluenza til pattedyr, mens andre forsøg handler om forskning i chikungunya-virus og arbejde med giftpeptider.
Nuancerede situationer
AI-virksomheden påpeger dog, at den ikke har haft mulighed for at afgøre, om forespørgslerne relateret til biologiske våben havde et ondsindet mål, eller om de relaterede sig til et legitimt forskningsrelateret formål.
Men i den slags situationer foretrækker selskabet en forsigtig tilgang frem for at risikere at give potentielle terrorister frit spil, forklarer chef for trusselsanalyse hos Anthropic Jacob Klein til New York Times.
”Det er ikke sådan, at der er tale om personer, der som en anden tegneserieskurk siger: ‘Hey, jeg vil bygge et biologisk våben for at slå alle ihjel.’ Det er en utrolig nuanceret situation,” siger han til avisen.
Forsøgte at omgå sikkerhedstiltag
Fælles for alle forsøgene er, at brugerne har forsøgt at omgå de kontrolforanstaltninger og sikkerhedsforanstaltninger, som Anthropic har sat op. Dels ved at forsøge at få adgang til modellerne fra regioner, hvor de ikke er tilgængelige, og dels ved at forsøge at skjule formålet med deres research.
”Da vi opdagede og undersøgte disse sager, lukkede vi brugernes konti og indarbejdede resultaterne fra vores undersøgelser i sikkerhedsforanstaltningerne for vores mest avancerede modeller samt i vores håndhævelses- og trusselsefterretningsprocesser,” skriver selskabet.
Ud over potentielle forsøg på at bruge kunstig intelligens til at udvikle biologiske våben fremgår det også af rapporten, at der er adskillige eksempler på aktører, der formodes at være relateret til det kinesiske og iranske regime, og som bruger kunstig intelligens til at overvåge regimekritiske eksilgrupper.
Det fremgår også af rapporten, at russiske statsmedier bruger Claude til at generere onlinepropaganda, der forsøger at ligne uafhængig nyhedsformidling.
Tidligere på var en tidligere forsker hos Anthropic ude og advare om, at der er en risiko for at menneskeheden i løbet af kort tid mister kontrollen over kunstig intelligens.
"De mennesker, der bygger AI, tror oprigtigt på, at teknologien slår os alle ihjel inden udgangen af dette årti," sagde han.
Det kan du læse mere om her:
