DeepSeek har på kort tid vakt opsigt i AI-verdenen med imponerende præstationer, hvor modellen er blevet beskrevet som en stærk konkurrent til både ChatGPT og Gemini.
Men nye tests viser, at modellen har massive sikkerhedsproblemer og scorer så dårligt i sikkerhedstest, at den bliver betegnet som en "Pandoras æske".
Det viser en ny rapport fra sikkerhedsfirmaet AppSoc, hvor modellen dumpede flere kritiske tests med et brag.
Disse resultater har ført til, at AppSoc tildelte DeepSeek en samlet risikoscore på 8,3 ud af 10, hvor 10 er det maksimale risikoniveau.
Kan misbruges til cyberkriminalitet
Ifølge rapporten er DeepSeek ekstremt sårbar over for jailbreaking-teknikker, hvilket gør det muligt at omgå modellens sikkerhedsbegrænsninger og manipulere dens output.
Forskere fra Palo Alto Networks har tidligere demonstreret, hvordan DeepSeek kunne narres til at generere instruktioner til at fremstille molotovcocktails samt skrive ondsindet kode.
Alligevel har Microsoft og andre techgiganter allerede integreret modellen i deres økosystemer, hvilket ifølge sikkerhedsfirmaet kan føre til alvorlige konsekvenser.
Testresultaterne har samtidig fået AppSoc til at advarer virksomheder mod at bruge DeepSeek til følsomme opgaver.
"DeepSeek-R1 bør ikke implementeres til nogen virksomhedsmæssige formål, især ikke dem, der involverer følsomme data eller intellektuel ejendom,” lyder det blandt andet fra Mali Gorantla, der er sikkerhedsforsker og medgrundlægger af AppSoc.
Frarådes og forbydes
De alvorlige sikkerhedsbrister har fået flere internationale myndigheder til at reagere.
Den italienske databeskyttelsesmyndighed har allerede forbudt DeepSeek, mens lignende restriktioner nu overvejes i andre lande.
I Danmark har Folketingets Præsidium frarådet politikere og ansatte at bruge den kinesiske chatbot DeepSeek.
Det sker på baggrund af et forsigtighedshensyn. Anbefalingen gælder for alle som har en mobil enhed, der er udleveret af Folketinget.
En af de store bekymringer er, at DeepSeeks servere ifølge dets egen privatlivspolitik er placeret i Kina, hvilket vækker alvorlige spørgsmål om datasikkerhed og compliance med europæisk lovgivning.
