GitHub oversvømmes af flodbølge af AI-kode: Bygger det hele om for at tackle problemet
Et af verdens største miljøer for udviklere, GitHub, presses voldsomt på kapacitet af AI-genereret kode, som udviklere verden over for alvor har kastet sig over.
I løbet af det seneste år er omfanget af nye kode, der er blevet indlæst på GitHubs servere, blevet mere end femdoblet. Alene i september blev der indlæst 7,6 milliarder kodebidrag.
Den pludselig eksplosion kom bag på GitHub - som Microsoft har ejet siden 2018 - som flere gange er løbet ind i kapacitets-problemer, da serverne kort og godt ikke har kunnet følge med flodbølgen af kode, der er væltet ind på serverne.
Udviklingen har nu fået GitHub til på kort tid at udvide kapaciteten med fire millioner CPU-kerner og 160 petabyte storage.
Samtidig er hele den tekniske arkitektur blevet ændret, så 'compute' og 'storage' er blevet opdelt og i dag kører separat. Alene dette træk gør, at det såkaldte 'throughput' bliver forøget med faktor 35, meddeler GitHub.
Samtidig er GitHub i gang med at ombygge sin brug af Azure, der nu fordeles mellem flere af Microsofts datacenter-regioner.
Microsoft har i øvrigt netop præsenteret det nye Copilot Fusion, som blandt andet skal anvendes til at fordele de såkaldte request i GitHub til forskellige AI-modeller alt efter behov. Det skal være med til at lempe presset og samtidig mindske udviklernes token-forbrug.
Copilot Fusion kan blandt andet lynhurtigt evaluere en bestemt opgaves behov for regnekraft, kode-generering, debuggning og lignende, og så sende opgaven videre til den AI-model, som bedst muligt kan løse opgaven.
Næsten al moderne software-udvikling har i en eller anden udstrækning haft gavn af versioneringssystemet under GitHub, Git - herunder Linux-kernen, Microsoft Windows, Microsoft Office, Android, Python, Visual Studio Code og mange andre.
Git anvendes af anslået 93,9 procent af alle udviklere i verden, og GitHub er den en hosting-tjeneste, hvor Git-projekterne, der kaldes 'repositories,' lagres i clouden. Der findes i dag mere end 400 millioner repositories.