En række absolutte topfolk i tech-branchen heriblandt Elon Musk og Steve Wozniak ønsker en AI-pause med henblik på, at det er farligt for samfundet.
”Vi opfordrer alle AI-laboratorier til øjeblikkeligt at holde pause i mindst 6 måneder i træningen af AI-systemer, der er stærkere end GPT-4,” skriver de i et åbnet brev og fortsætter:
”AI-systemer med menneskelig konkurrencedygtig intelligens kan udgøre store risici for samfundet og menneskeheden, som vist af omfattende forskning.”
Tech-folkene henviser til, at AI-ræset er blevet et kapløb, som er ude af kontrol, hvor der produceres digitale hjerner ingen helt kan forstå.
”Vi må spørge os selv: Skal vi lade maskiner oversvømme vores informationskanaler med propaganda og usandhed? Skal vi automatisere alle job, også de opfyldende? Skal vi udvikle ikke-menneskelige sind, der i sidste ende kan overstige, overliste, forælde og erstatte os? Skal vi risikere at miste kontrollen over vores civilisation? Sådanne beslutninger må ikke delegeres til ikke-valgte tech-ledere,” fremgår det af brevet.
De ønsker, at AI-udviklerne i højere grad arbejder med politiske beslutningstagere.
Listen af underskrivere på brevet er lang og kan findes her. Den inkluderer blandt andre:
- Yoshua Bengio , grundlægger og videnskabelig direktør hos Mila, vinder af Turing-prisen og professor ved University of Montreal
- Stuart Russell, Berkeley, professor i datalogi, direktør for Center for Intelligente Systemer og medforfatter til standardlærebogen "Artificial Intelligence: a Modern Approach"
- Elon Musk, CEO for SpaceX, Tesla & Twitter
- Steve Wozniak, medstifter, Apple
- Yuval Noah Harari, forfatter og professor, hebraiske universitet i Jerusalem.
- Andrew Yang, Forward Party, medformand, præsidentkandidat 2020, NYT bestsellerforfatter, præsidentens ambassadør for globalt entreprenørskab
- Connor Leahy, CEO, Conjecture
- Jaan Tallinn, medstifter af Skype, Center for Studiet af Eksistentiel Risk, Future of Life Institute
- Evan Sharp, medstifter, Pinterest
- Chris Larsen, medstifter, Ripple
- Emad Mostaque, CEO, Stability AI
- Valerie Pisano, præsident og administrerende direktør, MILA
- John J Hopfield, Princeton University, professor emeritus, opfinder af associative neurale netværk
- Rachel Bronson, præsident for Bulletin of the Atomic Scientists
