NVIDIA má svetovo najvýkonnejší čip pre AI, odzrkadlí sa aj na sérii RTX 5000

NVIDIA predstavila na vývojárskej konferencii novú grafickú jednotku B200 ladenú špeciálne pre výpočty umelej inteligencie, spoločne s NVIDIA GB200, ktorý spája dve tieto grafiky do jedného „superčipu“.

Spoločnosť si novým hardvérom plánuje zabezpečiť náskok pred ostatnými výrobcami hardvéru v oblasti umelej inteligencie, vďaka ktorej jej trhová hodnota prekonala aj gigantov ako sú Meta, Alphabet a Amazon.

Nová grafická jednotka NVIDIA B200 je zostavená z 208 miliárd tranzistorov ponúkne výkon 20 petaflopov. Superčip NVIDIA GB200, ktorý kombinuje dve nové grafické jednotky, má ponúknuť 30-krát vyšší výkon pri výpočtoch veľkých jazykových modelov, no zároveň má byť aj výrazne efektívnejší. Náklady na spotrebu má prevádzkovateľom v porovnaní s predchádzajúcim modelom H100 údajne nová platforma Blackwell znížiť až 25-násobne.

Nová grafická jednotka má síce stáť 30 až 40-tisíc dolárov, no táto investícia sa môže veľkým technologickým spoločnostiam ľahko oplatiť. Trénovanie modelov pri 1,8 bilióna parametroch by na ôsmich tisícoch jednotkách Hopper spotrebovalo 15 megawattov energie, pri novej generácii na to stačí využiť dvetisíc jednotiek, ktoré pri tom spotrebujú „len“ 4 megawatty energie.

Zaujímavé je, že NVIDIA sama uvádza, že predchádzajúca zostava šestnástich jednotiek by 60 % času strávila vzájomnou komunikáciou a len 40 % skutočnými výpočtami. Nová generácia ich vzájomnú komunikáciu výrazne vylepšuje, 576 jednotiek môže po novom komunikovať rýchlosťou 1,8 TB/s.

NVIDIA má pre veľké spoločnosti už priamo pripravené celé systémy, počnúc modelom GB200 NVL72, ktorý pozostáva z 36 procesorov a 72 grafických jednotiek s vodným chladením. Celkový výkon tohto systému dosahuje 72 petaflopov pri trénovaní AI, resp. 1,4 exaflopov už pri inferencii s natrénovaným AI modelom. Model DGX GB200 už ponúka 288 procesorov a 576 grafických jednotiek s výkonom 11,5 exaflopov. Do svojich cloudových systémov už plánuje NVL72 implementovať Amazon, Google, Microsoft aj Oracle.

NVIDIA si týmto krokom vytvára poistku v pretekoch o prvotného dodávateľa hardvérových riešení pre umelú inteligenciu. Ťažiť zo súčasného pokroku v oblasti hardvéru pre umelú inteligenciu však napokon zrejme budú aj hráči, ktorí boli ešte donedávna primárnymi zákazníkmi tejto spoločnosti. Platforma Blackwell B200 sa totiž pravdepodobne v istej forme objaví aj v novej sérii grafických kariet RTX 5000, ktorá by mala byť uvedená na trh začiatkom budúceho roka.