Velkommen til det 50. AI-nyhedsbrev.
Det er i dag og i morgen, at Computerworlds Cloud & AI Festival løber af stablen i Ballerup Arena.
Jeg har en lille stand derude, mine to “workshops” klokken 10-11 er fuldt booket, og jeg glæder mig. Hvis I ikke kan finde mig, så ring på min mobil (53 74 71 00).
Temaet for AI-lab i dag er, at vi skal glemme alt, hvad vi troede vi vidste om prompting, såmænd.
Derudover er dommedag forresten tilbage, jeg har en Silicon Valley-joke og et karriere-råd.
Men først lidt musik:
Da jeg forleden skulle bruge Gemini til noget tekst-scanning, poppede en reklame op for noget nyt, som de kalder Lyria.
Det er (endnu en) musiktjeneste, direkte i Gemini, hvor man kan få lavet musik og tekster. Det er altid lidt mærkeligt, men jeg skrev selvfølgelig:
”Lidt a la "highway to hell" i rytme og toneart, men udsat for lur, basun og bas.”
Resultatet kan I høre her: https://share.gemini.google/SMd9m6oUbDKl - og selv om jeg næsten kan høre min gode ven Oliver Weers synge den her ting, så ville han nok udtale et par af ordene lidt anderledes 🙂.
Jeg håber, at linket virker. Ellers må I skrive til mig, så jeg kan sende det.
Jeg synes nærmest, at der er tale om musikalsk historie. Min fars fætter, Per Nørgård, der var stor indenfor 12-tone-musik, ville have elsket det.
I får detaljerede instrukser og lidt tips og tricks ved for eksenmpel at skrive “hvordan bruger jeg jeres nye musiktjeneste lyria”.
Den har tekst-til-musik og billede-til-musk, masser af mulighed for fin-justering, mm.
Dommedag er tilbage
Citat fra et amerikansk nyhedsbrev:
“Så er det her igen. En juniormedarbejder hos Anthropic sagde op, efter blot seks uger, med påstanden om, at virksomheden ikke er tilstrækkeligt fokuseret på sikkerhed, og at AI måske udrydder os alle, og gik direkte ud på en omhyggeligt tilrettelagt medieturné.
Anthropics sikkerhedschef sagde, at han vurderede, at der er 10 procent risiko for, at AI udrydder os alle (hvilket han har sagt mange gange før). Og Dario Amodei udgav endnu et manifest (jeg har mistet tællingen), hvor han opfordrer til en form for opbremsning i AI-forskningen, hvilket Sam Altman fra OpenAI og Elon Musk fra SpaceX straks bakkede op om, mens Google og Meta udtrykte høflig tilslutning.”
Jeg gider ikke engang kommentere på det, ud over at den stakkels Prompt-podcast og hele den etablerede presse også hoppede på den og lavede en “emergency podcast”.
Suk. Jeg håber junior-medarbejderen fik noget ud af det.
Men nej, vi dør heller ikke denne gang.
Her er din nye titel
Husk nu at skifte dit titel på LinkedIn fra full-stack-udvikler (eller hvad du kalder dig selv for tiden) til Forward-Deployed Engineer (FDE). Det betyder, at du sidder hos en kunde og udvikler. Eller noget.
Joke fra Silicon Valley, kun for triste it-nørder/morfædre som mig selv:
Før: En machine learning-forsker er en statistiker, der bor i Silicon Valley.
Nu: En forward-deployed engineer er enhver, som OpenAI har ansat fra Accenture.
Nyeste: En forward-deployed engineer er enhver, der arbejder hos Accenture.
Dagens tema: Yoda fik ret!
“You must unlearn what you have learned”
- Master Yoda, The Empire Strikes Back
Jeg har brugt megen tid på at lære (og lære andre) at lave bedre prompts, hvilket selvfølgelig som oftest betyder længere prompts.
Det har især været tricket med at metaprompte, der har haft succes, fordi den har gjort selv nybegyndere 20-50 gange bedre på få minutter:
“Lav en prompt, der sammenligner to vedhæftede dokumenter. Foreslå derpå 42 forbedringer til prompten og lav en version to af prompten med forbedringerne inkluderet. Men først skal du grundigt undersøge, hvilke prompting-teknikker, der er bedst til dette formål og anvende disse til at lave de to prompts”.
Det resulterer i en virkelig lang og detaljeret prompt, der får selv chef-jurister til at udbryde, at nu lærer de noget, hver gang de bruger den teknik. True story.
Men nu ser det ud til, at det kan blive et problem.
Al den tekst og alle de instrukser kommer nu ofte til at stå i vejen for AI’ens behjertede forsøg på at lave et godt stykke arbejde.
Den bliver forvirret over de meget detaljerede instrukser og leverer bedre resultater, hvis den selv får lov til at udarbejde en strategi for at udføre det arbejde, som man beder den om.
Anthropic skrev i deres blog for et par uger siden, at de nu havde bedt deres egne udviklere om ikke længere at bruge Claudes “skills”-feature, fordi det forvirrede mere end det vejledte.
Der er forskel på: “Slå græsplænen” og dette, som vi alle har oplevet fra en chef engang, og det er KUN tre ud af de 16 punkter jeg viser her:
1. Inden du går i gang
Kig ud ad vinduet og kontrollér, at det ikke regner. Hvis det har regnet tidligere, så mærk eventuelt på græsset med hånden. Det må gerne være en smule fugtigt, men det skal ikke være decideret vådt. Tag sko på, som kan tåle græs.
2. Find græsslåmaskinen
Den står i skuret. Det er den røde med fire hjul. Du skal ikke forveksle den med trillebøren, højtryksrenseren eller vertikalskæreren.
3. Tag maskinen ud af skuret
Åbn først døren helt. Træk derefter maskinen ud med håndtaget først. Pas på dørkarmen. Luk døren efter dig, medmindre du forventer at skulle ind i skuret igen inden for kort tid.
Der er virkelig sket noget med hensyn til AI’ernes evne til at tolke, hvad vi vil have lavet.
Jeg har i de seneste fire uger med stigende forbløffelse set, hvordan ChatGPT (og de andre) med en simpel prompt laver noget, der kun kan kaldes agentisk arbejde:
Den overvejer, planlægger, korrigerer, udfører og så videre og leverer et grundigt svar, selv når jeg IKKE har slået “Thinking” til, men kun kører “Øjeblikkelig”, som jeg plejer hånligt at kalde “smart-i-en-fart”. Det er jeg så stoppet med nu.
Så dér røg lige to af mine bedste undervisnings-fiduser, som jeg plejede at kalde “superkræfter”, nemlig “sæt den altid til thinking” og “brug metaprompting”.
Hvis jeg gerne ville i pressen og blive berømt og magtfuld (I ved, hvad jeg hentyder til), ville jeg selvfølgelig lave en overskrift a la “AI’erne har nu opnået overmenneskeligt niveau," men realiteten er bare, at de er blevet hastigt bedre baseret på analyser af mange menneskers mange prompts i et par år og ikke mindst en massiv, global forsknings- og udviklingsindsats.
Jeg kom til at tænke på forleden, at det er knap fire år siden (30. november 2022), at ChatGPT kom frem, og det er præcist to år siden (12. september 2024), at OpenAI præsenterede modellen o1, der var den første ræsonnementsmodel, og dét har siden gjort en kæmpe forskel.
Jeg har reelt ikke set hallucinationer i de sidste 12-18 måneder. MEN: Jeg tror stadig på, at detaljerede prompts er nyttige i visse tilfælde, hvor man for eksempel gerne vil have et så ensartet output som muligt.
Correct me if I’m wrong. Jeg er meget interesseret i at høre jeres erfaringer på dette punkt.
Nogle af mine venner og bekendte kigger på mig, som om jeg har drukket (en komplet urimelig antagelse), når jeg siger det her, for de har aldrig gjort det store ud af deres prompts alligevel.
Andre fortæller mig, at de også har bemærket en væsentlig forbedring i de seneste få måneder. Skriv til mig på mogensxy@gmail.com med jeres erfaringer mht. prompting her på det seneste.
Det var dét! Det er ikke første gang vi har skullet “un-learne” noget inden for AI (og IT), men det her føles som en markant forbedring. Hvem ved - måske skal vi i næste uge un-learne, hvordan vi udvikler apps?
