Artikel top billede

Microsofts Doug Burger med en FPGA-klods, som Microsoft i al stilhed har installeret tusindvis af i de seneste par år.

Vild AI-supercomputer-løsning fra Microsoft bygger på denne lille FPGA-klods: Trækker på Microsoft-servere over hele verden

Microsofts har i al stilhed udstyret alle sine datacentre med FPGA-chip i de seneste par år og koblet hele baduljen sammen. Resultat: En vild supercomputer med hidtil usete kræfter, der kan oversætte hele Wikipedia til spansk på 0,098 sekunder. Snart vil alle kunne bruge den.

Microsoft Ignite, Atlanta: Forestil dig, at vi tager særlig optimerede chip i 34 kæmpedatacentre verden over og forener dem i en sammenhængende struktur, der minder om strukturen i vores hjerner.

Resultatet vil blive en kæmpemæssig cloud-supercomputer med hidtil usete kræfter og performance og muskler, som for alvor vil kunne sætte turbo på krævende regneopgaver.

Sådan en er Microsoft ved at have.

Selskabet har i en årrække arbejdet på at forene de chip, som kører i selskabets datacentre verden over.

At det går rigtigt hurtigt, demonstrerede Microsoft på selskabets Ignite-konference, der i disse dage løber af stablen i Atlanta, USA, med deltagelse af op mod 23.000 gæster.

Løsningen bygger på FPGA - Field Programmable Gate Arrays - der har eksisteret i årevis, men ikke er blevet anvendt i stor-skala tidligere.

Microsoft har i al stilhed i de seneste par år installeret FPGA i serverne i 15 lande over hele verden i et projekt, som Microsoft kalder for 'Projexct Catapult.'

Der er tale om programmerbare standardchip, som Microsoft samler i et board med 10 CPU-kerne og fire FPGA'er.

FPGA'erne minder om almindelige CPU'er og GPU'er, men har den fordel, at de kan reprogrammeres 'on the fly,' så de bedst muligt kan understøtte de skiftende opgaver.

FPGA'erne, som Microsoft anvender, bygges af Altera, som Intel købte i fjor i selskabets største opkøb nogensinde. Grund: Intel anede nok hvilken vej, vinden blæste.

Det kan du læse mere om her: Intel vil købe chipgigant for 115 milliarder kroner.

Idemanden bag løsningen hedder Doug Burger, og han viste i en demonstration, hvordan FPGA-supercomputeren, som han konsekvent kalder en 'fabric,' kunne oversætte hele romanen 'Krig og fred' på 1.440 sider fra russisk til engelsk på 2,5 sekunder - endda uden at køre på alle cylindre (se billede herunder).

Med fuld kraft kastet ind i opgaven viste han, at FPGA-løsningen kunne oversætte hele Wikipedia fra engelsk til spansk hurtigere end det tager at blinke. Den live-demonstrerede oversættelse af de tre milliarder ord i Wikipedia tog blot 0,098 sekunder. (se billede herunder.)

"Vores 'fabric' har en AI-capability, der er 18 gange større end den, som verdens største supercomputer har. Vi kan løse opgaver med dette her, der simpelthen har været umuligt at løse tidligere," sagde Doug Burger.

Microsoft søgemaskine Bing anvender i dag allerede systemet til at finde søgeresultater, ligesom FPGA anvendes under Azure-platformen.

"Dette er verdens mest intelligente cloud. FPGA er programmerbar hardware, der kan lære funktionaliteter 'on the fly.' Det kommer til at ændre grænserne for, hvad der er muligt i cloud'en," sagde Doug Burger.

Netop Bing har spillet en afgørende rolle i udviklingen af FPGA-løsningen.

Søgemaskinen kører på tværs af tusindvis af maskiner med hver deres CPU men fungerer som en sammenhængende løsning.

Det har imidlertid længe stået klart, at udviklingen på CPU-området har haft svært ved at følge med udviklingen på software-området - blandt andet på grund af de ret ekstreme krav til regnekraft, som AI stiller.

For Microsoft er det imidlertid for dyrt at begynde at udvikle særlige chip hver gang, der opstår nye behov. Problemerne skal løses med standard-chip, og det er grunden til, at selskabet begyndte at kigge nærmere på FPGA.

I begyndelsen blev FPGA'erne testet på Bing. Testene viste, at FPGA-løsningen kunne køre Bings machine learning algoritmer op til 100 gange hurtigere end de almindelige CPU'er.

Som hjernen

Næste skridt er at indføre FPGA under det, som Microsoft kalder for dybe neurale netværk, der er kunstig intelligens modelleret efter den struktur, som vi finder i hjernen.

FPGA er nu blevet udnævnt til at være Microsoft standard-arkitektur, og det det betyder, selskabet i løbet af de kommende år vil indbygge FPGA i stort set alle nye servere, som selskabet står bag.

Det vil øge regnekraften i den fælles supercomputer markant. Og det er vigtigt, da FPGA kommer til at danne grundlag for hele den bevægelse mod AI, som Microsoft er i gang med.

Netop den kunstige intelligens spiller en vigtig rolle i fremtiden, fortalte topchef Satya Nadella.

Microsofts fremtidige kurs hviler nemlig på fire søjler: Agenten (som er Cortana), applikationer, service og infrastruktur (som er blandt andet FPGA).

Tilsammen vil disse fire søjler komme til at danne grundlaget under effektiv brug af AI for millioner af brugere.

Det er noget, der kræver masser af regnekraft, som den almindelige CPU-udvikling ikke vil kunne honorere.

Derfor bliver behovene nu dækket ind af FPGA-løsningen, som ventes at kunne holdes kørende indtil i hvert fald 2020. Næste skridt bliver efter alt at dømme kvantecomputere.

Ifølge Doug Burger er Microsoft det første selskab i verden med en 'global hyperscale cloud, der er forstærket med FPGA'er. Det er den mest kraftfulde, fleksible og intelligente cloud, vi kender."

Læs mere fra Microsofts Ignite:

Microsofts nye virkelighed: Når den store digitale transformation rammer dig med høj fart

Microsoft: Med denne splinternye teknologi bliver Edge den mest sikre browser i verden.