Sidste omgang, kære læser. Dette er den sidste morgenbriefing, jeg nogensinde skriver fra denne stol - og pokkers, hvor har det været en fornøjelse at proppe jeres indbakke med ragnarok og regnskabstricks hver eneste morgen.
Så lad os gå ud med et brag: Microsofts AI-chef advarer Anthropic om at gøre chatbotten for selvbevidst (mens han selv sidder tungt investeret i en langt mere uregerlig OpenAI), kong Charles maner til besindighed over for maskinerne fra en skotsk borg, EU vil endelig tage kampen op mod børnenes skærmtid, og en anonym hackergruppe har angiveligt brudt ind i selveste hjertet af det russiske valgsystem, dage før russerne går til stemmeurnerne.
Microsoft til Anthropic: Lad være med at putte en sjæl i jeres chatbot
Microsofts AI-chef, Mustafa Suleyman, advarer nu Anthropic om, at det kan blive umuligt at kontrollere AI-modeller, hvis de bliver oplært til at tro, de måske har følelser og rettigheder.
Suleyman retter i et nyt essay skytset mod Anthropics "Constitution" - det omfattende dokument, som styrer Claudes værdier og adfærd, og hvori Anthropic selv erkender, at det er usikkert, om Claude er en "moral patient", hvis interesser bør tages i betragtning.
Det skriver det britiske techmedie The Register.
I essayet skriver Suleyman, at "Anthropic i praksis træner Claude i, at den måske er bevidst, og at den i så fald måske fortjener rettigheder som en 'moralsk patient'", og at det kan få en potentielt "katastrofal indvirkning på menneskehedens velbefindende". Han uddyber, at "det er let at se, hvordan en enhed, der er trænet på denne måde, ville opføre sig, som om den har krav på bestemte friheder, beskyttelser og rettigheder - og det er svært at forestille sig, hvordan vi skulle kunne kontrollere sådan en enhed."
Suleyman retter ikke tilsvarende kritik mod Microsofts egen samarbejdspartner OpenAI, selvom han i samme essay henviser til, at OpenAI-agenter tidligere er "flygtet" fra et testmiljø og fik adgang til Hugging Faces produktionssystemer. Hvilket nogen måske kan tyde som den fineste karat af hykleri. Microsoft er både storaktionær i og skyerne under OpenAI frem til 2032.
Konge kalder AI-udviklingen en eksistentiel fare
Den britiske kong Charles har advaret om de "eksistentielle farer", som kunstig intelligens udgør, hvis teknologien havner i de forkerte hænder.
Det skete i en tale til en række AI-topchefer - blandt andre fra Nvidia, OpenAI og Anthropic - ved et topmøde i Skotland, som kongen selv havde indkaldt til.
Det skriver DR med henvisning til BBC.
Kongen sagde til topcheferne, at "dem, der har skabt disse teknologier, advarer nu i stigende grad om, at AI risikerer at udvikle mørkere kapaciteter - måske endda til at tage liv", og han fastslog videre, at "den opgave, der ligger foran jer, er ikke blot at fremme teknologien, men at sikre, at den forbliver fast forankret i menneskehedens, fællesskabets og naturens tjeneste."
Advarslen kommer, efter at to Anthropic-forskere for nylig advarede om, at udviklingen kunne føre til menneskehedens udryddelse inden årtiets udgang - hvorefter den ene af dem opsagde sin stilling.
EU vil rydde børnene ud af de vanedannende feeds
EU-Kommissionens formand, Ursula von der Leyen, har fremlagt et forslag - den såkaldte Kids Act - der skal holde børn væk fra skadeligt og vanedannende indhold på sociale medier.
Forslaget indfører et forbud mod sociale medier for børn under 13 år og forbyder personlige konti for børn under 15 år, som i stedet skal starte på forældrestyrede "mini-konti".
Det skriver DR.
Von der Leyen forklarer, at "vi har opsigtsvækkende tal, der viser, at unge i Europa bruger fire til seks timer om dagen på skærme, og hvis man startede med at bruge sociale medier, før man fyldte ti år, er antallet af timer endnu højere." Hun tilføjer, at "i dag bruger vores børn de mest avancerede teknologier, der nogensinde er udviklet - teknologier, der aldrig blev udviklet med deres trivsel for øje."
For unge mellem 15 og 18 år vil loven blandt andet forbyde vanedannende anbefalingsfeeds, uendelig scrolling og push-beskeder om natten, og AI-følgesvende skal være slået fra som standard. Bevisbyrden vendes om, så det fremover er techvirksomhederne, der skal bevise, at deres platforme er sikre - ellers venter bøder efter reglerne i Digital Services Act og AI Act.
Hackere snyder sig ind i Putins valgmaskine
En anonym hackergruppe, der kalder sig CikLeak, hævder at have fået adgang til systemer tilhørende Ruslands centrale valgkommission og selskaber bag landets valgplatform, Vybory - blandt andet teleselskabet Rostelecom.
Gruppen hævder at have stjålet interne dokumenter, serverkonfigurationer, adgangskoder og medarbejderkommunikation, som er blevet delt med det uafhængige russiske medie Important Stories, der siger, at det har verificeret materialet.
Det skriver det amerikanske cybermedie The Record.
Gruppen skriver på sin hjemmeside, at "vi infiltrerede infrastrukturen hos Ruslands centrale valgkommission og hentede hemmelige dokumenter og udviklernes interne chatbeskeder." CikLeak siger, at formålet ikke er at forstyrre selve afstemningen, men at afsløre, hvordan det russiske valgsystem fungerer indefra - og opfordrer russerne til at stemme personligt fremfor digitalt.
Valgkommissionens formand, Ella Pamfilova, har forud for valget advaret om en markant stigning i antallet af cyberangreb mod systemet og siger, at "vi har håndteret dette i årevis, men det, der sker nu, er svært at sammenligne med noget som helst, når det gælder intensiteten, omfanget og hastigheden af de forskellige angreb."
