Ontdek hoe je AI-tokenkosten drastisch verlaagt zonder personeel te ontslaan. Tips van Nvidia, Uber en Gartner over prompt caching, modeloptimalisatie en RAG.
Jensen Huang, ceo van Nvidia, heeft een simpele test voor ingenieurs: als een ingenieur van €460.000 per jaar minder dan de helft van zijn salaris aan AI-tokens verbruikt, is hij diep bezorgd. Nvidia werkt aan een jaarlijkse tokenrekening van €1,84 miljard voor zijn ingenieurs. Dit klinkt misschien extreem, maar het weerspiegelt een bredere trend: bedrijven geven geld dat ze ooit aan mensen uitgaven, nu uit aan tokens.
De vier grootste hyperscalers hebben voor 2026 gezamenlijk €644 miljard aan kapitaaluitgaven begroot, bijna het dubbele van vorig jaar. Uit data van outplacementbureau Challenger, Gray & Christmas blijkt dat AI voor de vierde maand op rij de meest genoemde reden is voor ontslagen in de VS. Een intern Meta-memo, verkregen door Reuters, beschreef de ontslagen van 8.000 functies in mei als een manier om de aanzienlijke investeringen van het bedrijf te compenseren, in een kwartaal waarin de omzet met 33% groeide. Dit zijn geen overlevingsmaatregelen; het is financiering.
### Het probleem met bezuinigen op personeel
Het probleem is dat die financiering niet heeft gebracht wat het beloofde. Gartner ondervroeg 350 executives bij bedrijven met meer dan €920 miljoen omzet, die allemaal AI-agenten of automatisering inzetten. Ongeveer 80% had personeel ontslagen, maar er was geen verband met betere resultaten. Analist Helen Poitevin was duidelijk: "Ontslagen kunnen budgetruimte creëren, maar ze leveren geen rendement op." Uber leerde de dure les aan de tokenkant: het gaf 5.000 ingenieurs AI-codeertools in december en had zijn hele AI-budget voor 2026 al in april opgebruikt. COO Andrew Macdonald gaf toe dat, ondanks dat 70% van de code door AI was gegenereerd, de link met wat klanten merken ontbreekt: "Die link is er nog niet."
### Waar het tokenbudget buigt
De goedkoopste oplossing is ook de minst glamoureuze: stop met betalen om dezelfde tekst steeds opnieuw te verwerken. Prompt caching, nu standaard bij de grote API-providers, verlaagt de kosten van herhaalde invoer met tot 90% bij Anthropic en OpenAI. Statische content zoals systeeminstructies en referentiedocumenten worden eenmalig verwerkt en daarna tegen een fractie van de kosten herlezen.
Beveiligingsbedrijf ProjectDiscovery verhoogde zijn cache-hitratio van 7% naar 84% door prompts te herstructureren. Dit verlaagde de totale LLM-kosten met 59 tot 70%, terwijl het 9,8 miljard tokens uit de cache serveerde. Die ene technische ingreep bespaarde meer budget dan de meeste AI-gerelateerde ontslagrondes opleveren.
### Slimmere modelkeuzes en batchverwerking
De volgende hefboom is het routeren van werk naar het juiste model. Vlaggenschipmodellen kosten tot vijf keer meer per token dan kleinere modellen, maar veel productieworkloads sturen routinematige classificatie en samenvattingen standaard naar de duurste laag. Batchverwerking biedt een extra korting van 50% voor alles wat geen realtime antwoord nodig heeft.
### RAG en promptcompressie
Retrieval-augmented generation (RAG) pakt het probleem aan door het model alleen het relevante deel van een kennisbank te sturen, in plaats van de hele database. Promptcompressie verwijdert overbodige voorbeelden die elke aanroep duurder maken. Open-weight modellen verlagen de kosten verder: ze verwerken routinematige workloads voor een fractie van de prijs van frontier API's, mits je team de infrastructuur kan beheren.
Deze maatregelen zijn simpelweg het AI-equivalent van het uitschakelen van lichten in lege kamers. Ubers limiet van €1.380 per ingenieur per maand, ingesteld na de overschrijding in april, is een vroeg bewijs dat het werkt. Bedrijven die hun tokenbudget serieus nemen, kunnen hun personeel behouden en toch besparen.