Det er kun to valutaer, der virkelig tæller når det gælder kunstig intelligens. Du skal have massive mængder hukommelse og båndbredden til denne skal være kolossal.
Hos klassiske grafikkort-producenter, har man været storleverandør af båndbredde, mens de store mængder hukommelse er blevet forbeholdt server- og workstation-produkterne. Den slags, hvor prisen afregnes i 10.000-vis frem for tusindvis af kroner.
En kinesiske tech-kæmpe, Huawei, er dog klar med et alternativ, hvor der tilbydes enorme mængder hukommelse til en pris, som holder sig på den rigtige side af de 10.000 kroner: Huawei Atlas 300i Duo.
Skabt til AI
Som navnet antyder, er kortet skabt til at kværne sig igennem de massive beregninger som AI-modeller kræver.
Her er det assisteret af 96 gigabyte dedikeret hukommelse, som får et 408 gbps båndbredde at arbejde med.
Kortet føres nu for omkring 10.000 kroner på kinesiske handelsplatforme som Alibaba, hvor er Nvidia kort med tilsvarende 96 gigabyte hukommelse, RTX 6000 Pro, herhjemme koster fra 52.000 kroner – begge priser er uden moms.
Mens der er massive mængder hukommelse at få, er båndbredden på det kinesiske kort under en fjerdedel af, hvad RTX kortet kan levere. Det skyldes blandt andet at Huawei benytter sig af aldrende teknologi som LPDDR4X hukommelse.
Strømforbruget holdes dog nede på 150 watt, mod mellem 300 og 600 watt for Nvidias pendant. Det gør det kinesisk kort langt mere kompakt.
Til træningsformål leveres op til 280 TOPS (INT8) mod op til 2000 TOPS i Nvidia-kortet (INT8).
Inden du investerer i det kinesiske lavpris-kort, skal du være indstillet på, at det skal importeres fra Kina, at der er begrænset software-understøttelse og det alene fungerer med Linux.
