Velkommen til nr. 56 af AI-lab.
Der sker jo lidt af hvert inden for AI for tiden. Google får omtale af deres AI-chips, der hedder TPU’er (Tensor Processing Unit), Anthropic vil på børsen og sørger derfor for at skrue helt op for deres egne advarsler mod deres egne produkter (det er bare deres ansatte, der burde være skarpere, ikke deres AI, der er blevet ekstra skarp, bare rolig), og kineserne VIL også være førende på AI-området. Huhej.
Så i dag vil jeg gennemgå lidt om kinesernes anstrengelser, hygge mig med Alt Er Hacket-afsnittet og ellers koncentrere mig om konkrete tips og tricks, såsom en revision af min ITAKK-idé, prompting-teknikken jeg kalder “Gently down the garden path” og til sidst gøre jer bedre til at lave tegneserier med AI 🙂.
Kineserne kommer
Det kinesiske AI-firma Moonshot smed deres nye Kimi K3.1 Pro på markedet og annoncerede ubeskedent, at det matcher “de stærkeste proprietære modeller."
Deres “vægte” (hvordan de opfører sig) frigives 4. november, mens de store USA-modeller holder deres vægte hemmelige, så de ikke kan misbruges.
En af de mange, mange AI-tests, Artificial Analysis, sagde, at den nye KIMI var nummer 4, og var stærkere end OpenAI’s GPT-6 Astra, men lidt dårligere end Anthropics 5.5 duo og Metas Muse Wonder (hvor får de deres navne-idéer fra? Drikker de på møderne?), og den var især vældig god til meget lange (flere timer) programmerings-opgaver, akademisk arbejde og “real world tasks”, hvad det så end er.
Til gengæld er den billig, men bruger lidt flere tokens end de førende amerikanske modeller (fordi kineserne piratkopierer den MÅDE, som AI’erne løser problemer på (via deres distilling hacking-metoder), og netop derfor ikke kan kode dem lige så smart/elegant som dem, der reelt har opfundet det.
Og fordi kineserne selvfølgelig ikke indbygger nogen som helst form for sikkerhed (andet end det, der handler om ting, der er sket på Den Himmelske Freds Plads) er den nye model også vildt god til cyber-ting, både til at finde usikre ting i kode OG at hacke.
Den er på højde med de topmodeller fra Anthropic og OpenAI, som de holder tilbage, så kun nøje udvalgte kunder får adgang til dem.
Derfor kan der være god musik i at anskaffe sig sådan en fyr for bedre at kunne checke sine produkter, sin kode og sine forsvarsværker mod hacking. Samtidig vil hackerne selvfølgelig også kunne få fornøjelse af den.
Åbenhed har både fordele og ulemper, som open source-folk har sagt i mange år, og som de også mærker for tiden (PHP, med mere).
Køb billigt, siger IBM 🙂
På mange måder er IBM firmaet, der nægter at dø.
Gang på gang har de lavet voldsomme forandringer i organisation, produkter og strategi, når det var nødvendigt.
Men man må alligevel tage hatten af for, at den nuværende topboss mener, at fremtiden tilhører deres mainframe-computere, der kom frem omkring 1849, da vi fik Grundloven.
Men han siger også noget andet i dette interview, nemlig at de åbne modeller er så billige og så gode, at ingen kan sige nej til dem.
Han har en 90/10-regel: De kan 90 procent af det, som topmodellerne kan, og de koster en tiendedel. Det er svært at modstå, siger han.
Det har han en god pointe i. Kan I huske dengang i 1980’erne og 1990’erne, hvor pc’erne hele tiden kom i en lidt bedre udgave, der selvfølgelig var lidt dyrere?
Dengang var det smart at købe pc-modellen fra året før, fordi man fik en masse smæk for skillingen for en billig penge.
Så kunne de rige studerende, de kronisk fattige gamere og de smarte EDB-folk købe den sidste nye model, fordi deres personlighed var så kraftigt bundet op på netop dét.
Allersmartest er det jo at kunne vælge gårsdagens AI-model, når den er god nok og kun bruge modellerne fra øverste-øverste hylde, når det er bydende nødvendigt (eller bare sjovt/blæret).
Vi kommer til at se meget mere af dette: En model-router, der ved hjælp af en simpel AI-model bedømmer det, somdu gerne vil have lavet, og så dirigerer jobbet hen til den mindst mulige, men gode nok, model, der kan løse opgaven/lave arbejdet.
Tag for eksempel et kig på Microsofts idé omkring “Azure Foundry” (tidligere kaldet AI Studio).
Man får adgang til (hold fast) mere end 11.000 AI-modeller, som omfatter åbne modeller, ræsonnements-modeller, multi-modale modeller og så videre fra OpenAI, Anthropic, Meta, Google og endda (hold endnu mere fast) Microsofts egen MAI. Så kan man selv sammensætte sin “portefølje” til sin virksomheds behov.
Det er sådan noget ikke-tekniske top-bosser synes er lækkert. Det gør jeg egentlig også. Markedet virker.
Alt er hacket - brug nu AI, for pokker
Hov! Københavns Universitet er blevet hacket. Hov! Også Aarhus Universitet. Hov! Hov! Hov!
Udueligheden og ubrugeligheden i den kode, som er blevet lavet af danske og indiske programmører i årtier, er nu ved at blive udstillet for alvor.
Jeg synes heller ikke mere, at vi skal læse HELT så mange fjollede indlæg i pressen og på sociale medier fra selvfede, danske udviklere om, at de er verdens bedste til alt. Det er en lettelse midt i al hurlumhejet.
Min jernregel om AI er stadig: Hvis man ikke bruger AI mod AI, så er man fucked. Måske skal jeg opgradere reglen til at hedde: “Hvis man ikke bruger AI, så er man fucked”?
Hvis ikke en udvikler kommer ud af sin hyggelige C/C++-boble og får gang i AI-assisteret kodning, så er vedkommende færdig som popsanger, som vi sagde i 1980’erne.
En udvikler skal være produktejer nu om dage, og være fuldstændig ligeglad med, hvilken kode, der ligger bag produktet, ligesom man er, når man køber Oracle, SAP eller det, der er værre.
En produktejer kender sit produkt til bunds og sørger for at gøre det bedre, hurtigere, smukkere, sikrere og så videre ved hjælp af AI-genereret kode. Dixit.
Rigtige Mænd gider ikke kode.
Ligeså med cyberfolket: Hvis de ikke får gang i at bruge AI mod AI-trusler, så er de nok ikke cyberfolk ret længe.
Ligeså med offentligt ansatte: Hvis de ikke må bruge AI i forbindelse med de mange klager, ansøgninger, indsigelser og lignende, som borgerne producerer ved hjælp af AI, så kan de ligeså godt indsende langtidssygemeldingen med det samme.
Nå, men alt er hacket - hvad gør vi?
Tilbage til “alt er hacket”-temaet: Det værste er næsten det plidderpladder, som vi bliver fodret med, når endnu et universitet eller endnu en offentlig dims er blevet hacket: Hver eneste, evige gang fortæller man os, at vi “skal være opmærksomme” og “holde øje med noget”.
Hvad søren er det vi skal være opmærksomme på? Hvad hulen er det, at vi skal være opmærksomme på?
Jeg har et bud: Vi skal for eksempel være opmærksomme på, at alle de der mærkelige, danske bikse (offentlige og private), der bruger vores CPR-nummer og andet i det offentlige og private er LANGT, LANGT dyrere, dårligere og dummere (de tre danske D’er) end samtlige de amerikanske “uha-big-tech”-bikse, som vi alle er SÅ enige om at være kritiske overfor.
Det er lidt ligesom Margaret Thatcher i 1982, der stod med nogle småproblemer med minearbejdere, typografer og andet, men heldigvis pludselig kunne fokusere på en krig med Argentina og samle nationen.
Vi samles om en fordømmelse af de amerikanske tech-bikse, der reelt ikke har givet os konkrete problemer, vil jeg påstå, og jeg sætter gerne øl på højkant, mens vores egne systemer ofte viser sig at være noget bras bygget af strå på et fundament af ler og sand, og ALLE vore data, uanset hvor følsomme de er, bliver hackede/lækkede/stjålet præcist lige så ofte, som som hackerne ønsker det.
CSC-hacket. DVD’erne med vores sundhedsoplysninger. Jeg kunne blive ved. Vores egne systemer STINKER, men vi får hele tiden at vide, at det er de andre, der er dårlige, og det kan vi jo godt lide at høre. Fred og ingen fare. Passér gaden.
Jernbanesvellen i vores eget øje er mindre vigtig end splinten i de andres.
ITAKK - revision af en revolution
Jeg har haft en pæn grad af succes med min ITAKK-metode: Interview/lydoptagelse, Transskription, Ai-behandling af transskriptionen, Kontrol & Korrektion.
Det er forbløffende, så meget man kan få ud af lydoptagelser på den måde.
Jeg har eksempelvis kortlagt arbejdsgange, flaskehalse mmm. i en afdeling ved hjælp af fem optagelser på hver en time, hvor de fem grupperinger blev udspurgt om, hvad de lavede, hvordan de arbejdede, problemer, ønsker, etc., og ved hjælp af de fem transskriptioner produceret en rapport, der ville have taget en garvet proceskonsulent nogle uger at få lavet på traditionel vis.
Den rapport sendte jeg så til alle deltagerne og holdt et fællesmøde (det varede 17 minutter), hvor de kunne korrigere, kommentere, tilføje, osv - og det optog jeg også, transskriberede og sendte ind i AI’en til endelig finpudsning af rapporten.
Jeg brugte en dags tid i alt. Alle frem grupper gav resultatet et 10-tal både efter den gamle og nye karakterskala.
ITAKK-metoden virker, fordi man
1) får alt med, som folk siger, i modsætning til diverse referater og noter
2) folk ofte får deres tyste eller tavse viden ud, fordi det er nemmere at sige end at skrive
3) man spilder ikke gode hjerner på at lave referater mv
4) deltagerne kan få tilsendt både lydoptagelse, transskription og ens forslag til output, så de har hele “kilde-koden” og selv kan bruge den med deres vinkler og værktøjer.
Og det tager ingen tid.
MEN: Gode, erfarne folk fortalte mig efter nogen tids brug af metoden, at det ikke er præcist, når I’et står for “Interview”.
Det er bedre at lade det stå for “Indfang," det vil sige fangst af datakilder.
Det kan være lydoptagelser, præsentationer, billeder af et fyldt whiteboard, billeder af gule sedler klistret op på en halvgennemsigtig væg, fotos af dokumenter og så videre.
Så ITAKK står nu officielt for Indfang, Transskription, AI-behandling, Kontrol & Korrektion.
Af bitter erfaring kan jeg tilføje et par tips:
1) Sæt mobilen i flight mode, hvis I skal bruge den til optagelser. Ellers vil en opringning eller lignende stoppe optagelsen uden, at man opdager det.
2) Brug Goodtape til transskription - det er dansk og er bare bedre. Jeg skal nok sige til, når det ikke længere er det bedste.
Gently down the garden path
Der kan nogle gange være god musik i at lede AI’en ned ad den rette sti lidt af gangen.
Start for eksempel med at spørge, om den kender til GDPR. Den vil så svare en hel masse for at vise, at det gør den.
Spørg den så, om den kender til AI Act. Den svarer igen en masse.
Og nu begynder den ofte at gætte på, hvad den skal lave i den forbindelse, og mange gange rammer den rigtigt, specielt, hvis man har memory slået til.
Men ellers kan man nu bede den om at lave den rapport om sammenhængen mellem GDPR og AI Act, som man ønsker.
Den vil være sporet godt ind på emnerne allerede. Prøv det, og fortæl mig gerne om jeres erfaringer. .
Bedre tegneserier ved hjælp af rollespilsmanuskripter
Jeg overlader med det samme ordet til en skarp og kreativ kollega, C:
Citat:
“Jeg har kørt lidt småforsøg med at omdanne processer eller brugerrejser til tegneserier. Jeg kan konstatere at chatGPT har meget svært ved at sætte talebobler til de rigtige personer og holde sig fra at en person skifter rolle. Pludselig bliver piloten selv læge osv.
MEN! Et tip til at forbedre dette er først at bruge det kendte materiale til at skrive et rollespilsmanuskript! Det gør det en hel del lettere for den at omdanne til passende billeder fordi replikkerne dermed er givet på forhånd, og der kan sågar også indføres fortæller. Det betyder også, at man kan kvalificere processen og rollerne inden billeddannelse.”
Citat slut.
Og med dét vil jeg ønske jer en god midt-uge-onsdag. Imorgen, torsdag, drager jeg til Austin, Texas, for at holde AI-ferie, det vil sige. en uge hos James Morle, hvor han passer sit job (AI-relateret hos Microsoft), mens jeg sidder ved det oprindelige OakTable-bord og nørder løs. Vejret vil være 25-26 grader alle dage, poolen er lige uden for stuen, og det lokale supermarked har virkelig mange specialøl. Det bliver hårdt. Sig til, hvis I skal have noget med derovre fra. Skriv også, hvis I er uenige i det, som jeg skriver. Eller enige. Eller vil have løst et AI-problem. Eller noget. Alt læses på mogensxy@gmail.com.
