Det helt store sværdslag i Silicon Valley er for tiden: kampen om hvilken rolle open source AI-modeller kommer til at få i fremtiden.
Der er store penge på højkant. Der investeres milliarder af dollars i at bygge de mest avancerede modeller, mens et potentielt afkast stadig mangler at materialisere sig.
Netop derfor er det ikke ligegyldigt, hvem der får lov at bygge videre på hinandens teknologi og hvem der forbydes det. Det spørgsmål har nu splittet nogle af branchens største navne.
På den ene side står en bred koalition af tech-giganter – Nvidia, Meta, Microsoft, Hugging Face og Mistral – der i sidste uge i fællesskab advarede amerikanske politikere mod at indføre for hårde restriktioner på de såkaldte open-weight-modeller. Brevet blev delt af Nvidia-stifter Jensen Huang på X og nævnte ikke Kina direkte, skriver amerikanske TechCrunch.
På den anden side står Dario Amodei, stifter og topchef for Anthropic, der mandag så sig nødsaget til offentligt at afvise en påstand, der har cirkuleret i kølvandet på brevet: at hans eget selskab skulle arbejde for et forbud mod open-weight-modeller.
"Anthropic har aldrig gået ind for et forbud mod open-weight-modeller," skrev Dario Amodei i et blogindlæg på Anthropics hjemmeside,
Men afvisningen er ikke det samme som enighed med koalitionen. Dario Amodei trækker i stedet en klar grænse.
Skelner mellem åbne modeller og Kina
Debatten i branchen handler i vid udstrækning om beskyldninger mod kinesiske AI-laboratorier for at stjæle amerikansk teknologi - blandt andet gennem såkaldt distillation, hvor en model bombarderes med spørgsmål for at kopiere, hvordan en konkurrerende model arbejder indeni.
Hans reelle bekymring ligger et andet sted: At autoritære regimer - med det kinesiske kommunistparti som det mest kapable eksempel ifølge Anthropic-stifteren - bruger avanceret AI til at opnå permanent militær overlegenhed eller undertrykke egne befolkninger.
Han peger desuden på risikoen for biologiske angreb, hvor han mener, at åbne modeller er sværere at sikre. Guardrails er svære at håndhæve, brugen kan ikke overvåges, og en model kan ikke trækkes tilbage, når den først er frigivet.
Det er stik modsat argumentet fra open source-fortalere - heriblandt dem bag brevet fra Jensen Huang, der netop mener, at bred adgang til kraftfulde, ukontrollerede modeller styrker forsvaret mod angreb snarere end svækker det.
Vil stramme chipadgang og bekæmpe kopiering
Dario Amodei foreslår i stedet konkrete modtræk: strammere begrænsninger på Kinas adgang til avancerede chips - allerede en mangeårig amerikansk linje - samt et decideret opgør med distillation. USA har tidligere truet med sanktioner mod Kina, hvis det kan dokumenteres, at kinesiske selskaber har stjålet amerikansk AI-teknologi.
Samtidig bakker han op om et voksende internationalt ønske om en fælles testorganisation for de mest kraftfulde modeller - uanset om de er åbne eller lukkede, og uanset oprindelsesland. Betingelsen er dog klar: Skal det virke, skal testen være global. Det betyder, at selv det kinesiske kommunistparti skal være med.
Det tror Dario Amodei rent faktisk kan lade sig gøre - i hvert fald når det gælder biologiske våben, hvor han mener, at et forbud mod misbrug reelt tjener Kinas egne interesser lige så meget som USA's.
