Keményen beleszállt az OpenAI az Nvidiába: egyszerűen gyengének tartják a chipjeiket

A ChatGPT készítője tavaly óta keresi a Nvidia-chipek alternatíváit, különösen az AI következtetési (inference) folyamatokhoz használt komponensek terén. Míg a Nvidia továbbra is domináns az AI-modellek betanításához szükséges chipek piacán, a következtetési chipek területén új verseny bontakozott ki.

Az OpenAI stratégiaváltása jelentős próbatételt jelent a Nvidia AI-piaci dominanciája számára, miközben a két vállalat befektetési tárgyalásokat folytat. Szeptemberben a Nvidia bejelentette, hogy akár 100 milliárd dollárt is befektetne az OpenAI-ba, de a tárgyalások hónapok óta húzódnak.

Időközben az OpenAI megállapodásokat kötött az AMD-vel és más gyártókkal a Nvidia termékeivel versenyző GPU-k beszerzésére. A vállalat változó termékstratégiája módosította a számítási erőforrásokkal kapcsolatos igényeit, ami hátráltatta a Nvidia-val folytatott tárgyalásokat.

Hét forrás szerint az OpenAI elégedetlen azzal a sebességgel, amellyel a Nvidia hardverei válaszokat generálnak a ChatGPT felhasználóinak bizonyos feladattípusoknál, például szoftverfejlesztésnél. A cég olyan új hardvert keres, amely a jövőben az OpenAI következtetési számítási igényeinek körülbelül 10%-át fedezné.

A ChatGPT készítője tárgyalásokat folytatott olyan startupokkal, mint a Cerebras és a Groq, hogy gyorsabb következtetési chipeket szerezzen be. A Nvidia azonban 20 milliárd dolláros licencmegállapodást kötött a Groq-kal, ami leállította az OpenAI és a Groq közötti tárgyalásokat.

Az OpenAI GPU-alternatívák iránti keresése olyan cégekre összpontosított, amelyek nagy mennyiségű beágyazott memóriával (SRAM) rendelkező chipeket gyártanak. Az ilyen típusú memória sebességelőnyt biztosíthat a chatbotok és más AI-rendszerek számára, amikor milliók kéréseit dolgozzák fel.

A következtetési folyamatokhoz több memóriára van szükség, mint a betanításhoz, mivel a chipnek viszonylag több időt kell töltenie az adatok memóriából való lekérésével. A Nvidia és az AMD GPU-technológiája külső memóriára támaszkodik, ami növeli a feldolgozási időt és lassítja a felhasználói interakciókat.

Az OpenAI-nál a probléma különösen láthatóvá vált a Codex esetében, amely a vállalat számítógépes kódot létrehozó terméke. Január 30-án Sam Altman, az OpenAI vezérigazgatója újságíróknak elmondta, hogy a kódolási modellek felhasználói "nagy hangsúlyt fektetnek a sebességre a kódolási munkában".

Miközben az OpenAI kifejezte fenntartásait a Nvidia technológiájával kapcsolatban, a Nvidia megkereste az SRAM-gazdag chipeken dolgozó vállalatokat, köztük a Cerebrast és a Groq-ot, esetleges felvásárlás céljából. A Cerebras elutasította az ajánlatot, és múlt hónapban kereskedelmi megállapodást kötött az OpenAI-jal.