Na Nvidijinoj GTC 2024 konferenciji u ponedjeljak, tvrtka je predstavila svoju Blackwell GPU platformu za koju kaže da je dizajnirana za generativnu AI obradu. Linija sljedeće generacije uključuje B200 GPU i GB200 Grace “superčip” koji nude sve što je potrebno za radna opterećenja zaključivanja LLM-a, dok značajno smanjuju potrošnju energije.
Novi Nvidia B200 GPU sadrži 208 milijardi tranzistora i nudi do 20 petaflopa FP4 performansi. Također uključuje brzi transformatorski motor druge generacije s FP8 preciznošću. GB200 Grace kombinira dva od ovih B200 čipova s Nvidia Grace CPU-om i povezuje ih preko NVLink chip-to-chip (C2C) sučelja koje pruža 900 GB/s dvosmjerne propusnosti.
Tvrtka tvrdi da bi novi akceleratori pomogli u pomacima u obradi podataka, inženjerskoj simulaciji, dizajnu elektronike, automatizaciji, računalno potpomognutom dizajnu lijekova i kvantnom računalstvu.
Prema Nvidiji , samo 2.000 Blackwell GPU-a može trenirati LLM od 1,8 milijardi parametara uz potrošnju samo četiri megavata energije, dok bi ranije bilo potrebno 8.000 Hopper GPU-a i 15 megavata za dovršenje istog zadatka.
Tvrtka također tvrdi da na GPT-3 LLM benchmarku sa 175 milijardi parametara, GB200 nudi 7x poboljšanje performansi u odnosu na H100 dok nudi 4x bržu izvedbu treninga. Novi čipovi potencijalno mogu smanjiti operativne troškove i potrošnju energije do 25 puta.
Uz pojedinačne čipove, Nvidia je također predstavila sustav s više čvorova, tekućinom hlađen, rack-scale pod nazivom GB200 NVL72 za računalno intenzivna radna opterećenja. Kombinira 36 Grace Blackwell Superchipova, koji uključuju 72 Blackwell GPU-a i 36 Grace CPU-a međusobno povezanih NVLinkom pete generacije.
Sustav dolazi s 30 TB brze memorije i nudi 1,4 exaflopsa AI performansi za najnoviji DGX SuperPOD. Nvidia tvrdi da nudi 30 puta veću izvedbu od H100 sustava u aplikacijama koje zahtijevaju velike resurse kao što je 1.8T parametar GPT-MoE.
Očekuje se da će mnoge organizacije i poduzeća usvojiti Blackwell, a popis uključuje doslovno sve tvrtke u Silicijskoj dolini. Među najvećim američkim tehnološkim tvrtkama koje će implementirati nove GPU-ove su Amazon Web Services (AWS), Dell, Google, Meta, Microsoft, OpenAI, Oracle, Tesla i xAI, između ostalih.
Nažalost za ljubitelje igara, Nvidijin izvršni direktor Jensen Huang nije otkrio niti nagovijestio ništa o Blackwell igraćim GPU-ovima za koje se očekuje da će biti lansirani kasnije ove godine ili početkom 2025. godine.
Očekuje se da će liniju predvoditi GeForce RTX 5090 s GB202 GPU-om, dok će RTX 5080 biti potpomognut GB203.
