OpenAI nezadovoljan nekim čipovima koje proizvodi Nvidia

OpenAI je nezadovoljan nekim od najnovijih Nvidia čipova za veštačku inteligenciju i još od prošle godine traži alternativno rešenje, što bi moglo da zakomplikuje odnos dve najistaknutije kompanije u AI industriji, navode izvori upoznati sa situacijom.

Razlog za promenu strategije leži u sve većem fokusu na čipove namenjene “interferenciji”, fazi u kojoj već istrenirani AI modeli, poput onih koji stoje iza ChatGPT-a, odgovaraju na zahteve korisnika. Dok Nvidia i dalje dominira u čipovima za treniranje velikih modela, inferencija postaje novo bojno polje u industriji, prenosi Reuters.

Odluka kompanije OpenAI da traži alternativu predstavlja ozbiljan test dominacije kompanije Nvidia, tim pre što su dve kompanije istovremeno u pregovorima o investiciji. Nvidia je još u septembru najavila da je spremna da uloži do 100 milijardi dolara u OpenAI, ali su pregovori, za koje se očekivalo da brzo budu završeni, produženi na mesece.

U međuvremenu je OpenAI sklopio sporazume sa kompanijom AMD i drugim proizvođačima grafičkih procesora (GPU), a promena razvojnog plana dodatno je zakomplikovala dogovor sa kompanijom Nvidia.

Nvidia je demantovala navode o tenzijama, tvrdeći da njeni čipovi nude najbolje performanse i najniže ukupne troškove za inferenciju u velikim razmerama. OpenAI je saopštio da se i dalje u velikoj meri oslanja na Nvidia proizvode, a izvršni direktor Sem Altman je naglasio da Nvidia pravi najbolje AI čipove na svetu i da OpenAI želi da ostane njen veliki kupac.

Ipak, više izvora navodi da OpenAI nije zadovoljan brzinom kojom Nvidia hardver isporučuje odgovore za određene zadatke, poput razvoja softvera ili komunikacije AI sa drugim programima. Kompaniji je potreban novi hardver koji bi dugoročno pokrivao oko 10 odsto njenih potreba za inferencijom.

Zbog toga su razmatrane saradnje sa startupovima kao što su Cerebras i Groq, koji razvijaju čipove sa velikom količinom ugrađene memorije (SRAM), pogodnije za brzu obradu zahteva miliona korisnika. Inferencija zahteva više memorije nego treniranje modela, jer se čipovi češće oslanjaju na dohvat podataka nego na čiste matematičke operacije.

Nvidia i AMD se uglavnom oslanjaju na eksternu memoriju, što usporava odziv.