Hilsener fra Nashville, Tennessee.
Heldigvis er temperaturen faldet til 28, men min ven James har advaret mig om, at når vi skal besøge ham lørdag i Dripping Springs udenfor Austin, er der 31 grader i poolen uden opvarmning. Det kræver kolde øl.
Til sagen: Nu begynder AI-markedet at virke (udbud og efterspørgsel) og maskerne at falde (ja, AI-biksene vil også tjene penge) i AI-verdenen.
Ikke nok med det: Paven skriver om AI, USA lukker af for udlændinge, der vil bruge Fable + Mythos (lad os tilsammen kalde det Fallos), alle overraskes over, at det koster mange penge at bruge mange penge, og det er i det hele taget tid til at tænke sig om og blive smart i en fart.
Velkommen til næste kapitel i en eksponentiel udvikling.
To-kens or not to-kens - that’s the question
Da Anthropic pludselig fandt på at lade folk betale efter forbrug, var der nærmest jubel hos mine venner.
“Wow, jeg har lige købt for 13.000 kroner tokens”, “Oops, jeg er lige blevet ført over på den licens, hvor det koster 200 dollars om måneden”, og hvad de ellers skrev til mig.
Således indledtes tokenmaxxing-æraen, hvor firmaer nærmest roste deres folk for at bruge flest tokens og blev begejstrede over, at de brugte fem gange deres løn i tokens om måneden. Bonanza og El Dorado mødtes i en skøn duet.
Det varede dog ikke så længe, for SÅ meget mere fik man alligevel ikke lavet.
“The rage for tokenmaxxing is coming to an end” kan man læse i denne uges udgave af The Economist.
Det har jo også varet i flere måneder nu. I hvert fald tre. Og sådan er det med eksponentielle udviklinger: Noget stort og afgørende kommer og går på få uger eller måneder. Et kvarters berømmelse er ikke rigtigt en vittighed mere.
Nu kommer vi så til den æra i AI-udviklingen, der handler om at få skruet ned, blive smarte, belønne dem, der sparer på tokens, osv. Den æra kan sagtens vare i flere uger.
Henrik Zangenberg, den kloge mand, kan dog berolige folk med, at vi slet, slet ikke har set de sidste kæmperegninger for tokens. Det har Computerworld interviewet ham om her. Jeg kan hverken be- eller afkræfte, at Henrik og jeg har indgået et væddemål om ovenstående.
Der er (nye!) penge i AI
At AI vender op og ned på mange ting, kan man tydeligt se i disse dage.
Folk bliver fyrede fra store, amerikanske bikse (Meta, Oracle), fordi firmaerne har investeret SÅ meget i AI-datacentre, at de er nødt til at spare på mandskabet. Nogle af mine venner var blandt de 30.000, som Oracle fyrede, fordi de har spenderet helt vanvittigt på datacentrene.
Så hvor vi for få måneder siden sagde, at “du bliver ikke afløst af AI - du bliver afløst af en person, der bruger AI”, så er det nu snarere “du bliver ikke afløst af AI - du bliver afløst af et AI-datacenter, der bruger alle pengene”.
Hackerne er heller ikke sene til at benytte sig af de nye muligheder. Novo har fået stjålet AI-modeller og diverse forskningsresultater, som de har fremskaffet med AI, af en rimelig aggressiv hackergruppe, der vil have 25 millioner dollars for ikke at offentliggøre det.
Så på den måde er der jo også penge i AI.
Et eller andet fjols fra Novo havde et svagt password på Github, og vupti! fik de at mærke, hvad det kan betyde at være spændt tæt op mellem AI-udviklingsmiljøet og Github.
To Fable or not to Fable
Pludselig fik Anthropic det, som de ville have det - eller gjorde de?
De har jo konsekvent været dem, der råbte højt op om AI’s farligheder samtidig med, at de arbejdede på at blive de bedste til at gøre det farligt. Smart.
Men så ringede en gut fra Amazon til en gut i regeringen og sagde, at man måske kunne arbejde sig uden om sikkerhedsforanstaltningerne i Fallos, hvorpå alle ikke-amerikanere øjeblikkeligt skulle lukkes ude.
Så begyndte hele AI-verdenen at brokke sig (inklusive Anthropic, der i den grad er fanget i deres eget spind).
Men skaden er selvfølgelig sket. Hvem kan nu stole på amerikanske leverandører? Nu vil alle for alvor se sig om efter alternativer, der ikke styres af tilfældige embedsmænd.
Havde kineserne tilsneget sig adgang? Var det dét, som Amazon-chefen havde fundet ud af og advarede regeringen om? Det var ihvertfald én teori dagen derpå.
Med andre ord: Det KAN være, at der var en god grund. Men skaden er sket.
“Sikkerhedshensyn” kan lukke vores adgang til de førende modeller. Idéen om andenrangs-nationer er pludselig tydelig. Pludselig er der ingen forskel på mongo-bongo-lande og os her i det kloge Europa.
Men tag ikke fejl: De dygtige rejser stadig til USA for at få adgang til den nyeste tech, de dygtigste kolleger og de bedste AI-modeller.
Og eftersom vi slet ikke får gjort noget ved AI her i EU (udover at lovgive mod det, hvilket aldrig fører til verdensdominans, men altid til større afhængighed), så vil USA nu kunne udvide arbejdsstyrken med mange milliarder AI-agenter, mens vi ævler om el- og vand-mangel, som er den største urbane myte i vores tid.
Jeg husker tydeligt den urbane myte fra 1970’erne om, at tyrkiske fremmedarbejdere holdt høns i køkkenskabene og dyrkede kartofler i jord, de havde spredt ud på stuegulvet.
Som alle andre gode urbane myter viste det sig, at det var samme nonsens i alle lande.
Myten med el- og vand-mangel holder forhåbentlig ikke så længe. For den er med til at holde os tilbage og gøre os endnu mere dovne.
Tips & Tricks: AI for fattigrøve
Nu, hvor det hastigt bliver meget dyrere at bruge AI (fordi det er dyrt at producere) er det tid at pudse nogle gode, gamle tricks af, der gør det billigere at bruge AI.
For det første: Spørg teenagerne, som altid er de bedste shoppere vi har.
For det andet, så brug gratis modeller, hvor det er muligt og godt nok.
Det kan være alt lige fra det gratis Copilot-ikon i Edge-browseren over Google Search-AI, der nu begynder at være nyttig for alvor. Google vil, som jeg tidligere har skrevet, være den, der er billigere og gode nok til de fleste AI-ting.
Der er også stadig mulighed for at benytte gratis-udgaverne af ChatGPT, Claude m.fl. Dem kan man så sætte til at kritisere og rette hinandens output (“AI-battle”) ligesom i gamle dage for to år siden.
Endelig skal vi genfinde de gode dyder fra før Ræsonnoment-modellerne, dvs. skarpere og mere præcise prompts, bede den om at dobbeltchecke sine svar, osv.
Vi fortsætter med andre ord med den stejle indlæring omkring AI.
To skridt frem og ét tilbage. Skriv meget gerne til mig på mogensxy@gmail.com med jeres tips og tricks for tokenminimering. Vi skal jo redde Danmark!
