OpenAI ontwikkelt eigen chip om kosten te drukken. De JalapeƱo, gemaakt met Broadcom, moet de torenhoge uitgaven aan Nvidia-hardware verminderen. Lees hoe deze chip de toekomst van AI kan veranderen.
OpenAI zit in een financiƫle race. De kosten voor infrastructuur zijn torenhoog, en dat is precies waarom het bedrijf zijn eigen chip ontwikkelde: de OpenAI JalapeƱo. Samen met Broadcom ontwierp OpenAI een speciale chip (een ASIC) die direct inspeelt op de enorme uitgaven aan hardware van derden.
### Waarom een eigen chip?
Nvidia vraagt maar liefst 75% winstmarge op zijn topchips. OpenAI houdt zelf ongeveer ā¬0,30 over van elke euro omzet, na aftrek van alle operationele kosten. Dat klinkt misschien nog redelijk, maar de schaal is gigantisch. Vorig jaar kostte het draaiende houden van ChatGPT maar liefst ā¬7,7 miljard. Dit jaar, met 900 miljoen wekelijkse gebruikers, loopt dat bedrag op tot ongeveer ā¬12,8 miljard.
- Nvidia-marge: 75%
- OpenAI-winst per euro: ā¬0,30
- Kosten ChatGPT 2024: ā¬7,7 miljard
- Verwachte kosten 2025: ā¬12,8 miljard
En dan hebben we het nog niet over de toekomst. OpenAI heeft voor de komende acht jaar maar liefst ā¬1,28 biljoen vastgelegd voor rekenkracht. Dat is een enorme gok voor een bedrijf dat nu 'slechts' ā¬22,9 miljard aan jaarlijkse omzet draait.
### De JalapeƱo: gemaakt voor LLM's
De JalapeƱo is niet zomaar een chip. OpenAI noemt het zijn eerste 'Intelligence Processor', speciaal ontworpen voor het draaien van grote taalmodellen (LLM's). Het is geen algemene AI-chip, maar eentje die precies doet wat OpenAI nodig heeft. Het bedrijf leverde het ontwerp op basis van zijn eigen modellen, Broadcom zorgde voor de technische uitwerking en de netwerkkoppeling.
TSMC produceert de chips in Taiwan, en Celestica bouwt de complete boards en racksystemen. Volgens OpenAI draaien de eerste labversies al geavanceerde workloads, waaronder een nog niet uitgebracht GPT-5.3-Codex-Spark-model, op de beoogde snelheid en energie.
Richard Ho, hoofd van de hardware-afdeling bij OpenAI, legt uit dat de architectuur gegevensverkeer minimaliseert. Dat klinkt technisch, maar het komt erop neer dat de chip zijn theoretische piekprestatie veel beter benadert dan algemene acceleratoren. Die zijn namelijk vaak niet geoptimaliseerd voor de unieke knelpunten van interactieve LLM's.
Om dit op grote schaal te laten werken, zit Broadcom's Tomahawk-netwerktechnologie direct in het ontwerp. Zo kunnen duizenden JalapeƱo-chips in datacenters moeiteloos met elkaar communiceren.
### Het vliegwiel van verticale integratie
Door zelf chips te maken, verandert OpenAI van een softwarebedrijf in een volledig geĆÆntegreerd infrastructuurbedrijf. Het bedrijf beheerst nu de hele keten: van chipontwerp en software tot geheugensystemen, netwerkplanning en de uiteindelijke applicatie. Denk aan Apple, dat zijn hardware en iOS naadloos op elkaar afstemt. OpenAI kan nu zijn infrastructuur precies laten aansluiten op zijn eigen modelroadmaps.
Dit creëert een continu vliegwiel. Betere infrastructuur verlaagt de kosten voor zowel training als het draaien van modellen. Goedkopere modellen leiden tot betere, snellere producten, wat weer meer gebruikers en omzet oplevert. Die omzet wordt dan geïnvesteerd in de volgende generatie infrastructuur.
### Een late start, maar met ambitie
OpenAI is laat met het ontwikkelen van eigen chips. Google begon al in 2015 met zijn Tensor Processing Units (TPU's) en heeft nu ongeveer een kwart van alle AI-rekenkracht buiten Nvidia in handen. Amazon heeft meer dan een miljoen eigen chips verscheept, en Meta en Microsoft schalen hun infrastructuur ook flink op.
Greg Brockman, president en medeoprichter van OpenAI, zegt: "JalapeƱo is onderdeel van onze langetermijnstrategie om rekenkracht overvloediger te maken. Door meer van de keten zelf te ontwerpen, kunnen we meer intelligentie leveren met minder middelen."
Het wordt dus een interessante race. OpenAI zet alles op alles om zijn eigen plek te veroveren in een wereld die steeds meer door eigen chips wordt gedreven. Of het lukt? De tijd zal het leren, maar de ambitie is er in ieder geval.