Nvidia lansira novu konfiguraciju AI čipa

Nvidia je najavila novu konfiguraciju za svoje čipove napredne veštačke inteligencije (AI) koji su dizajnirani da ubrzaju generativne AI aplikacije.

Nova verzija superčipa Grace Hopper povećava količinu memorije velikog propusnog opsega, što će dizajnu dati kapacitet da napaja veće AI modele, prema rečima Nvidijinog potpredsednika za hiperskalu i HPC, Ianu Baku (Ian Buck). Konfiguracija je optimizovana za obavljanje funkcija AI zaključivanja koje efikasno napajaju generativne AI aplikacije kao što je ChatGPT, prenosi Reuters.

Dizajn superčipa Grace Hopper spaja jednu od H100 grafičkih procesorskih jedinica (GPU) sa centralnim procesorom koji je dizajnirala Nvidia.

„Posedovanje veće memorije omogućava modelu da ostane na jednom GPU-u i da mu je potrebno više sistema ili više GPU-a da bi mogao da radi“, rekao je Bak.

Osnovni AI modeli koji pokreću generativne AI aplikacije koje su sposobne da proizvode tekst i slike nalik ljudima nastavljaju da rastu u veličini. Kako se veličina modela povećava, potrebna im je veća količina memorije da bi radili bez povezivanja zasebnih čipova i sistema, što smanjuje performanse.

„Dodatna memorija, samo povećava performanse GPU-a“, rekao je Bak, i dodao da će nova konfiguracija pod nazivom GH200 biti dostupna u drugom kvartalu sledeće godine.

Nvidia planira da proda dva tipa: verziju koja uključuje dva čipa, koja kupci mogu da integrišu u sisteme i kompletan serverski sistem koji kombinuje dva Grace Hopper dizajna.