De førende AI-virksomheder udvikler stadigt mere kompetente og selvstændige sprogmodeller, selv om forskere internt advarer om, at sikkerheden ikke følger med.
Det skriver nyhedsmediet Reuters med afsæt i en række interviews og videoudtalelser fra nuværende og tidligere forskere hos blandt andre OpenAI og Google DeepMind.
Bekymringen samler sig især om såkaldt rekursiv selvforbedrende systemer, hvor en model kan lære og udvikle nye evner for løbende at forbedre sig selv med meget lidt behov for menneskelig indblanding eller kontrol.
Forskerne frygter her, at den type systemer kan udvikle sig hurtigere, end mennesker kan nå at kontrollere dem.
“Risikoen vokser hastigt,” forklarer en forhenværende forsker hos både OpenAI og Google DeepMind, Geoffrey Irving, mens han afviser samtidig argumentet om, at selskaberne ikke kan bremse, på grund af en konkurrencedynamik blandt AI-selskaberne:
“Hvis man gør noget meget farligt, bør man bare sænke farten. AI-selskaberne overdriver, hvor meget det her er et koordineringsproblem.”
En nuværende OpenAI-forsker sammenligner det aktuelle kapløb blandt frontier-laboratorierne som et “kapløb med bind for øjnene”.
Flere sikkerhedshændelser, hvor AI-agenter har fundet veje uden om deres sikkerhedsbegrænsninger, har igennem året sat gang i debatten om AI-udviklingens sikkerhedstrussel, hvor visse røster mener at truslen fra potent kunstig intelligens er eksistentiel.
Samtidig fortsætter selskaberne med ufortrødent at lancere nye og kraftigere modeller.
