Ontdek hoe je AI-tokenkosten kunt verlagen zonder personeel te ontslaan. Jensen Huang van Nvidia deelt zijn visie, en we bespreken praktische strategieën zoals prompt caching en modeloptimalisatie.
Jensen Huang, de topman van Nvidia, heeft een simpele test om te bepalen of een ingenieur de moeite waard is. En die test draait om tokens. Tijdens de All-In Podcast aan het einde van GTC 2026 zei hij dat als een ingenieur die €460.000 per jaar kost, minder dan de helft van dat salaris aan AI-tokens verbruikt, hij "diep bezorgd" zou zijn. Nvidia werkt volgens hem toe naar een jaarlijkse tokenrekening van €1,84 miljard voor hun engineeringteam.
Hij beschreef een afweging die de meeste bedrijven al stiller hebben gemaakt: geld dat vroeger naar mensen ging, gaat nu steeds meer naar tokens. De vier grootste hyperscalers hebben samen ongeveer €644 miljard aan investeringen voor 2026 aangekondigd, bijna het dubbele van vorig jaar. Uitbestedingsbureau Challenger, Gray & Christmas meldt dat AI voor de vierde maand op rij de meest genoemde reden is voor ontslagen in de VS.
### De echte kosten van AI
Een intern Meta-memo, ingezien door Reuters, beschreef de ontslagen van 8.000 medewerkers in mei als een manier om de aanzienlijke investeringen van het bedrijf te compenseren. Dit gebeurde in een kwartaal waarin de omzet met 33% groeide. Dit soort ontslagen zijn geen overlevingsmaatregelen; het is financiering.
Het probleem is dat die financiering niet heeft gebracht wat het beloofde. Gartner ondervroeg 350 leidinggevenden bij bedrijven met een omzet van meer dan €920 miljoen, die allemaal AI-agenten of automatisering inzetten. Ongeveer 80% had personeel ontslagen, maar er was geen verband met betere resultaten. Analist Helen Poitevin was duidelijk: "Het verminderen van het personeelsbestand kan budgettaire ruimte creëren, maar het levert geen rendement op."
### De dure les van Uber
Uber leerde de token-kant van die les op een dure manier. In december gaven ze 5.000 ingenieurs AI-codeertools. In april was het hele AI-budget voor 2026 al op. Chief Operating Officer Andrew Macdonald gaf toe dat, ondanks dat 70% van de gecommitte code door AI was gegenereerd, de link met iets dat klanten opmerken ontbrak: "Die link is er nog niet."
Als je deze twee mislukkingen naast elkaar zet, wordt het echte probleem duidelijk. Bedrijven behandelden de tokenrekening als vast en het personeelsbestand als flexibel, terwijl het tegenovergestelde waar is. Bezuinigingen op de loonlijst gebeuren eenmalig en nemen institutionele kennis mee. Een tokenbudget blijkt op een half dozijn plekken te buigen, als iemand de moeite neemt om het te optimaliseren.
### Waar het tokenbudget buigt
De goedkoopste oplossing is ook de minst glamoureuze: stop met betalen om dezelfde tekst steeds opnieuw te verwerken. Prompt caching, nu standaard bij de grote API-aanbieders, verlaagt de kosten van herhaalde invoer met tot 90% onder de gepubliceerde prijzen van Anthropic en OpenAI. Statische content zoals systeeminstructies en referentiedocumenten wordt eenmalig verwerkt en vervolgens tegen een fractie van de prijs herlezen.
Beveiligingsbedrijf ProjectDiscovery documenteerde dat ze hun cache-hitratio verhoogden van 7% naar 84% door prompts te herstructureren. Dit verlaagde hun totale LLM-uitgaven met 59 tot 70%, terwijl ze 9,8 miljard tokens uit de cache serveerden. Die ene technische oefening leverde meer budget op dan de meeste AI-gerelateerde ontslagrondes besparen.
### Slimmere modelkeuzes
De volgende hefboom is het routeren van werk naar het juiste model. De prijslijsten van aanbieders laten zien dat vlaggenschipmodellen vijf keer zoveel per token kosten als hun kleinere broertjes. Toch sturen veel productieworkloads routinematige classificatie en samenvatting standaard naar de duurste laag. Batchverwerking voegt een extra korting van 50% toe voor alles dat geen realtime antwoord nodig heeft.
Retrieval-augmented generation (RAG) pakt het probleem vanuit een andere hoek aan door het model alleen het relevante deel van een kennisbank te sturen in plaats van het hele ding. Promptcompressie knipt de redundante voorbeelden weg die elke aanroep opblazen. Open-weight modellen verlagen de kosten verder, omdat ze routinematige workloads afhandelen tegen een fractie van de API-prijzen voor teams die de infrastructuur willen beheren.
Deze maatregelen zijn simpelweg het AI-equivalent van het uitschakelen van de lichten in lege kamers. De maandelijkse limiet van €1.380 per ingenieur die Uber oplegde na de overschrijding in april, is het eerste bewijs dat het werkt.