En af verdens største platforme har fået nok af AI-slop: Nu risikerer brugere karantæne

Forskere og andre brugere risikerer nu et års udelukkelse, hvis de sender åbenlyst AI-genereret materiale ind uden at have kontrolleret indholdet.

Artikel top billede

(Foto: Nick Morrison / Unsplash)

ArXiv er en af verdens vigtigste onlineplatforme for forskere, der vil dele nye videnskabelige artikler, før de er fagfællebedømt og udgivet i tidsskrifter.

Platformen bruges især inden for computer science, fysik, matematik og AI, hvor nye resultater ofte deles hurtigt.

Men efter at have oplevet en voksende tilstrømning af AI-genereret materiale, der bliver sendt ind som seriøs forskning, har platformen nu besluttet at stramme kursen over for AI-slop.

Brugere kan fremover blive udelukket i et år, hvis de indsender åbenlyst AI-genereret materiale, som de ikke selv har kontrolleret ordentligt, skriver 404 Media.

Ikke et regulært forbud mod AI

Thomas Dietterich, der er formand for computer science-sektionen på arXiv, har skrevet på det sociale medie X (tidligere Twitter), at AI-værktøjer kan generere upassende sprog, plagieret indhold, biased indhold, fejl, forkerte referencer og vildledende indhold.

Hvis den slags ender i videnskabelige artikler, er det ifølge ham forfatternes ansvar. ArXiv har derfor præciseret sine sanktioner.

Hvis en indsendelse indeholder uomtvistelige tegn på, at forfatterne ikke har kontrolleret resultatet af LLM-genereringen, kan arXiv ifølge Thomas Dietterich ikke stole på noget som helst andet i artiklen.

Derfor kan forfatterne blive udelukket fra at indsende nyt materiale i et år.

Der er dog ikke tale om et regulært forbud mod brugen af AI-værktøjer.

Men platformen gør det klart, at ansvaret stadig ligger hos forfatterne, hvis de bruger værktøjerne.

Hvis AI-genereret tekst, fejl eller falske henvisninger ender i en forskningsartikel, er det ikke værktøjet, men derimod forskeren, der hæfter for indholdet, lyder det.

Falske referencer og AI-kommentarer

Thomas Dietterich opremser i den forbindelse flere eksempler på, hvad arXiv vil betragte som klare tegn på ukontrolleret AI-brug.

Det kan være hallucinerede referencer eller meta-kommentarer fra AI-modellen, som ved en fejl er blevet stående i teksten.

Som eksempel nævner han formuleringer i stil med: “Her er et resumé på 200 ord”, “vil du gerne have mig til at lave ændringer?” eller “dataene i denne tabel er illustrative, indsæt de rigtige tal fra dine eksperimenter”.

Den type tekst viser ifølge arXiv, at forfatterne ikke har gennemgået indholdet ordentligt, før de sendte det ind.

Ud over et års karantæne skal forskerne, når udelukkelsen er ovre, først have deres kommende arXiv-indsendelser accepteret af et anerkendt fagfællebedømt tidsskrift eller en tilsvarende faglig platform.

Annonce

Politiets Efterretningstjeneste

Sektionsleder til AI-implementering i PET

Københavnsområdet

Politiets Efterretningstjeneste

GenAI-specialist i PET

Københavnsområdet

Computerworld Events

Vi samler hvert år mere end 6.000 deltagere på mere end 70 events for it-professionelle.

Ekspertindsigt – Lyt til førende specialister og virksomheder, der deler viden om den nyeste teknologi og de bedste løsninger.
Netværk – Mød beslutningstagere, kolleger og samarbejdspartnere på tværs af brancher.
Praktisk viden – Få konkrete cases, værktøjer og inspiration, som du kan tage direkte med hjem i organisationen.
Aktuelle tendenser – Bliv opdateret på de vigtigste dagsordener inden for cloud, sikkerhed, data, AI og digital forretning.

It-løsninger | København

Dynamics 365 FO: Næste niveau for data, AI og forretning

Få overblik over vejen fra Dynamics AX til Finance & Operations – eller løft værdien af Dynamics FO. Hør praksisnære cases om strategi, migration og optimering. Vælg spor, få dyb faglig indsigt, styrk beslutningerne. Tilmeld dig konferencen i...

It-løsninger | København

Data & Analytics Day 2026

Computerworld samler danske cases og skarpe keynotes om operationel brug af data. Få greb til automatisering, generativ AI, predictive analytics og tættere dataintegration. Omsæt analyser til handling i hverdagen. Læs mere og tilmeld dig Data &...

Andre events | København

People Tech 2026 - København

Få indsigt i automatisering, data og AI i HR. Lær hvor HR og IT mødes, hvad der kan skaleres, og hvor ansvar og grænser går. Tilmeld dig og styrk samspillet mellem mennesker og teknologi.

Se alle vores events inden for it

Navnenyt fra it-Danmark

Fellowmind Denmark A/S har pr. 1. september 2026 ansat Morten Jakobi som Business Unit Director. Han skal især beskæftige sig med at samle og udvikle Fellowminds forretning inden for Managed Services, Cloud Infrastructure & Security. Han kommer fra en stilling som Chief Executive Officer hos Inventio.it A/S. Han har tidligere beskæftiget sig med Ledelse og udvikling af Managed Services, serviceforretninger og transformation i Norden og Benelux. Nyt job

Morten Jakobi

Fellowmind Denmark A/S

IFS Danmark A/S har pr. 1. november 2026 ansat Pernille Solvig Graux som Senior Director, Demand Generation. Pernille skal især beskæftige sig med Demand Generation i Europe North. Pernille kommer fra en stilling som Director, Commercial Excellence hos Kahoot. Pernille er uddannet Akademiøkonom. Pernille har tidligere beskæftiget sig med kommerciel ledelse med fokus på salg og marketing. Nyt job

Pernille Solvig Graux

IFS Danmark A/S

Wireless Logic Nordic, der leverer sikre IoT-forbindelser til erhverv, har pr. 28. oktober 2026 ansat Wanig Le Pennec som direktør. Han skal især beskæftige sig med udviklingen af den nordiske forretning med fokus på vækst og strategiske partnerskaber. Han er uddannet MBA fra IAE Paris – Sorbonne Business School og har en ingeniøruddannelse fra ENSEEIHT i Frankrig. Han har tidligere beskæftiget sig med globale partnerskaber og kommerciel udvikling inden for telekommunikation, software og IoT. Nyt job

Wanig Le Pennec

Wireless Logic Nordic, der leverer sikre IoT-forbindelser til erhverv,

Elbek & Vejrup A/S har pr. 15. august 2026 ansat Anne-Sofie Andreasen som Project Manager i Projekt & Service. Hun skal især beskæftige sig med ledelse og koordinering af projekter og serviceopgaver. Hun kommer fra en stilling som konsulent med fokus på digitale løsninger hos XFLow. Hun er uddannet cand.it. i IT, Kommunikation og Organisation. Hun har tidligere beskæftiget sig med analyse, udvikling, test og implementering af løsninger samt udarbejdelse af brugervejledninger. Nyt job

Anne-Sofie Andreasen

Elbek & Vejrup A/S