Waarom OpenAI zijn eigen JalapeƱo-chip bouwt: de cijfers achter de strategie

Ā·
Luister naar dit artikel~4 min
Waarom OpenAI zijn eigen JalapeƱo-chip bouwt: de cijfers achter de strategie

OpenAI ontwikkelt een eigen chip om de torenhoge kosten van AI-infrastructuur te verlagen. Wat betekent de JalapeƱo-chip voor de toekomst van het bedrijf?

OpenAI zit in een lastige positie. Het bedrijf groeit razendsnel, maar de kosten voor rekenkracht zijn torenhoog. Daarom ontwikkelde het, samen met Broadcom, een eigen chip: de OpenAI JalapeƱo. Dit is geen gewone processor, maar een speciale ASIC (application-specific integrated circuit) die precies doet wat OpenAI nodig heeft: grote taalmodellen draaien zonder dat het bedrijf afhankelijk is van dure hardware van derden. Nvidia verdient nog altijd dik aan zijn high-end processors – naar schatting maar liefst 75% winstmarge. OpenAI daarentegen houdt per verdiende euro maar ongeveer €0,33 over nadat alle operationele kosten zijn betaald. Die kosten zijn gigantisch. Alleen al om ChatGPT draaiende te houden, kostte het bedrijf vorig jaar zo'n €7,7 miljard (omgerekend van US$8,4 miljard). Met 900 miljoen wekelijkse gebruikers loopt dat dit jaar op naar ongeveer €12,9 miljard. En over de komende acht jaar heeft OpenAI maar liefst €1,3 biljoen toegezegd aan rekenkracht – een enorme gok voor een bedrijf dat nu jaarlijks €23 miljard omzet draait. ### Waarom een eigen chip? De JalapeƱo-chip, die OpenAI zijn eerste 'Intelligence Processor' noemt, is niet bedoeld voor allerlei AI-taken. Hij is specifiek ontworpen voor het afhandelen van grote taalmodellen (LLM's). OpenAI leverde het ontwerp op basis van zijn eigen modellen en systemen, terwijl Broadcom zorgde voor de technische uitwerking en de netwerkintegratie. TSMC produceert de chips in Taiwan, en Celestica bouwt de boards en racksystemen. Volgens OpenAI draaien er al vroege lab-versies van de chip, inclusief een nog niet uitgebracht GPT-5.3-Codex-Spark-model, op de beoogde productiesnelheid en -vermogen. Richard Ho, hoofd van de hardware-afdeling bij OpenAI, legt uit dat het ontwerp de verplaatsing van data minimaliseert. Daardoor komt de chip dichter bij zijn theoretische piekprestaties. In tegenstelling tot algemene versnellers, die vaak zijn aangepast aan oudere AI-taken, balanceert deze architectuur precies de juiste hoeveelheid rekenkracht, geheugen en netwerkcapaciteit. Het grootste probleem bij interactieve LLM's is namelijk dat data te langzaam door het systeem beweegt. Dat knelpunt pakt OpenAI hiermee aan. Om dit op grote schaal te kunnen doen, is Broadcom's Tomahawk-netwerktechnologie direct in het ontwerp geĆÆntegreerd, zodat de chips in enorme datacenters met elkaar kunnen communiceren. ### Het vliegwiel van verticale integratie Door eigen chips te maken, verandert OpenAI van een simpel softwarebedrijf in een verticaal geĆÆntegreerd infrastructuurbedrijf. Het bedrijf beheert nu de hele keten: van chipontwerp en software tot geheugensystemen, netwerkplanning en de uiteindelijke applicatie. Vergelijk het met Apple, dat zijn hardware en iOS strak op elkaar afstemt. OpenAI kan nu zijn infrastructuur precies laten aansluiten op zijn eigen model-roadmaps. Deze aanpak creĆ«ert een continu vliegwiel. Betere infrastructuur verlaagt de kosten voor zowel het trainen als het draaien van modellen. Goedkopere modellen leiden tot betere, snellere producten, wat meer gebruikers en omzet oplevert. Die extra inkomsten worden dan weer geĆÆnvesteerd in de volgende generatie eigen infrastructuur. Het is een slimme cyclus die zichzelf versterkt. ### De late start van OpenAI Toch komt OpenAI laat op de markt. Terwijl het bedrijf nu pas zijn eerste eigen chip introduceert, zijn concurrenten al bijna tien jaar bezig. Google begon in 2015 met het uitrollen van zijn Tensor Processing Units (TPU's) en beheert nu ongeveer een kwart van de wereldwijde AI-rekenkracht buiten Nvidia om. Amazon heeft inmiddels meer dan een miljoen eigen chips verscheept, en zowel Meta als Microsoft blijven hun eigen infrastructuur opschalen. > 'JalapeƱo is onderdeel van onze langetermijnstrategie om rekenkracht overvloediger te maken,' zegt Greg Brockman, president en medeoprichter van OpenAI. 'Door meer van de stack zelf te ontwerpen, kunnen we meer intelligentie leveren met minder middelen.' De vraag is of OpenAI de achterstand kan inhalen. Het heeft de ambitie en de middelen, maar de concurrentie slaapt niet. EĆ©n ding is zeker: met deze chip zet OpenAI een belangrijke stap richting onafhankelijkheid van externe leveranciers – en dat is in de AI-wereld goud waard.