Ontdek hoe je AI-tokenkosten verlaagt zonder personeel te ontslaan. Jensen Huang van Nvidia stelt dat ingenieurs minstens de helft van hun salaris aan tokens moeten verbruiken. Leer over prompt caching, modeloptimalisatie en RAG.
Jensen Huang, de topman van Nvidia, heeft een simpele test voor zijn ingenieurs: verbruik je jaarlijks voor minstens de helft van je salaris aan AI-tokens? Zo niet, dan is hij "diep bezorgd". Tijdens de All-In Podcast na GTC 2026 legde hij uit dat een ingenieur die €460.000 kost, eigenlijk minstens €230.000 aan tokens per jaar moet gebruiken. Nvidia zelf werkt toe naar een jaarlijkse tokenrekening van €1,84 miljard voor zijn hele technische team.
Dit verhaal gaat over een verschuiving die veel stille heeft plaatsgevonden: geld dat vroeger naar salarissen ging, stroomt nu naar tokens. De vier grootste cloudbedrijven plannen voor 2026 een gezamenlijke investering van zo'n €644 miljard, bijna het dubbele van vorig jaar. Uit data van het outplacementbureau Challenger, Gray & Christmas blijkt dat AI voor de vierde maand op rij de belangrijkste reden is voor ontslagen in de VS.
Een interne memo van Meta, ingezien door Reuters, beschreef de ontslagronde van 8000 banen in mei als een manier om de enorme investeringen te compenseren – in een kwartaal waarin de omzet met 33% groeide. Dit zijn geen overlevingsmaatregelen, maar financieringskeuzes.
### De belofte van AI is nog niet waargemaakt
Het probleem is dat die financiering niet heeft opgeleverd wat ervan werd verwacht. Gartner ondervroeg 350 directeuren van bedrijven met meer dan €920 miljoen omzet, die allemaal AI-agents of automatisering inzetten. Ongeveer 80% had personeel ontslagen, maar er was geen verband met betere resultaten. Analist Helen Poitevin was duidelijk: "Ontslagen creëren budgetruimte, maar geen rendement."
Uber leerde die les op een dure manier. Het bedrijf gaf in december 5000 ingenieurs AI-codeertools, en had in april al het hele AI-budget voor 2026 opgemaakt. Operationeel directeur Andrew Macdonald gaf toe dat 70% van de code door AI werd gegenereerd, maar dat de link met wat klanten merken nog ontbreekt: "Die link is er nog niet."
### Waar het tokenbudget wél buigt
De goedkoopste oplossing is ook de minst glamoureuze: stop met betalen om dezelfde tekst steeds opnieuw te verwerken. Prompt caching, nu standaard bij de grote API-aanbieders, verlaagt de kosten van herhaalde invoer met tot 90% bij Anthropic en OpenAI. Statische inhoud zoals systeeminstructies wordt één keer verwerkt en daarna tegen een fractie van de prijs herlezen.
Beveiligingsbedrijf ProjectDiscovery verhoogde zijn cache-hitratio van 7% naar 84% door prompts te herstructureren. Dat verlaagde de totale LLM-uitgaven met 59 tot 70%, terwijl er 9,8 miljard tokens uit de cache werden bediend. Die ene ingreep bespaarde meer budget dan de meeste AI-gerelateerde ontslagrondes.
### Slimmere modelkeuzes en batchverwerking
De volgende hefboom is het inzetten van het juiste model voor de taak. Vlaggenschipmodellen kosten vijf keer meer per token dan kleinere varianten, maar veel productieomgevingen sturen routinematige taken naar de duurste laag. Batchverwerking geeft nog eens 50% korting voor alles wat geen realtime antwoord nodig heeft.
Retrieval-augmented generation (RAG) pakt het probleem aan door alleen het relevante deel van een kennisbank naar het model te sturen, in plaats van de hele database. Promptcompressie schrapt overbodige voorbeelden die elke aanroep duurder maken. Open-weight modellen verlagen de kosten verder, omdat ze routinetaken afhandelen voor een fractie van de prijs van commerciële API's – als je team de infrastructuur kan beheren.
### Een maandelijkse limiet als noodgreep
Deze maatregelen zijn simpelweg het AI-equivalent van het uitschakelen van lichten in lege kamers. Uber's maandelijkse limiet van €1.380 per ingenieur, ingesteld na de overschrijding in april, is het eerste bewijs dat strakker budgetbeheer werkt. Het laat zien dat je het tokenbudget kunt buigen zonder je team te krimpen.