Ontdek hoe bedrijven hun tokenbudget kunnen verkleinen zonder personeel te ontslaan. Leer over prompt caching, modelroutering en andere technieken om AI-kosten te beheersen.
Jensen Huang heeft een simpele test om te bepalen of een ingenieur de moeite waard is. En die test draait om tokens. Tijdens de All-In Podcast, aan het einde van GTC 2026, zei de Nvidia-topman dat als een ingenieur van €460.000 per jaar minder dan de helft van zijn salaris aan AI-tokens verbruikt, hij zich "diep zorgen zou maken." Nvidia werkt volgens hem aan een jaarlijkse tokenrekening van €1,84 miljard voor zijn technische team.
Hij beschreef een afweging die de meeste bedrijven al stiller hebben gemaakt: geld dat vroeger naar mensen ging, gaat nu naar tokens. De vier grootste hyperscalers hebben voor 2026 een gezamenlijke capex van ongeveer €644 miljard begroot, bijna het dubbele van vorig jaar. Ondertussen blijkt uit data van outplacementbureau Challenger, Gray & Christmas dat AI voor de vierde maand op rij de meest genoemde reden is voor ontslagen in de VS.
Een interne Meta-nota, verkregen door Reuters, beschreef de ontslagen van 8.000 banen in mei als compensatie voor de aanzienlijke investeringen van het bedrijf. In een kwartaal waarin de omzet met 33% groeide. Ontslagen bij dit soort bedrijven zijn geen overlevingsmaatregelen. Ze zijn een manier om te financieren.
Het probleem is dat die financiering niet heeft opgeleverd wat het beloofde. Gartner ondervroeg 350 directeuren van bedrijven met een omzet van meer dan €920 miljoen, die allemaal AI-agenten of automatisering inzetten. Ongeveer 80% had personeel ontslagen, maar er was geen verband met betere resultaten. Analist Helen Poitevin was duidelijk: "Het inkrimpen van het personeelsbestand kan budgettaire ruimte creëren, maar het creëert geen rendement."
Uber leerde de token-kant van die les op de dure manier. Het gaf 5.000 ingenieurs AI-codeertools in december en had zijn hele AI-budget voor 2026 al in april opgemaakt. Chief Operating Officer Andrew Macdonald gaf toe dat, ondanks dat 70% van de gecommitte code door AI is gegenereerd, het verband met iets dat klanten opvalt ontbreekt: "Dat verband is er nog niet."
Zet die twee mislukkingen naast elkaar en het echte probleem wordt duidelijk. Bedrijven behandelden de tokenrekening als vast en het personeelsbestand als flexibel, terwijl het tegenovergestelde waar is. Bezuinigingen op de loonlijst gebeuren eenmalig en nemen institutionele kennis mee. Een tokenbudget blijkt op een half dozijn plekken buigzaam te zijn, als iemand de moeite neemt om het te optimaliseren.
### Waar het tokenbudget buigt
De goedkoopste oplossing is ook het minst glamoureus: stop met betalen om dezelfde tekst steeds opnieuw te verwerken. Prompt caching, nu standaard bij de grote API-aanbieders, verlaagt de kosten van herhaalde invoer met tot 90% onder de gepubliceerde prijzen van Anthropic en OpenAI. Statische inhoud, zoals systeeminstructies en referentiedocumenten, wordt eenmalig verwerkt en daarna tegen een fractie van de kosten opnieuw gelezen.
Beveiligingsbedrijf ProjectDiscovery documenteerde hoe het zijn cache-hitratio verhoogde van 7% naar 84% door prompts te herstructureren. Het verlaagde daarmee de totale LLM-uitgaven met 59 tot 70%, terwijl het 9,8 miljard tokens uit de cache serveerde. Die ene technische oefening leverde meer budget op dan de meeste AI-gerelateerde ontslagrondes besparen.
De volgende hefboom is het routeren van werk naar het juiste model. De prijslijsten van aanbieders laten zien dat vlaggenschipmodellen vijf keer zoveel per token kosten als hun kleinere broertjes. Toch sturen veel productie-workloads routinematige classificatie en samenvatting standaard naar de duurste laag. Batchverwerking geeft een extra korting van 50% voor alles dat geen realtime antwoord nodig heeft.
Retrieval-augmented generation pakt het probleem vanuit een andere hoek aan door het model alleen het relevante deel van een kennisbank te sturen, in plaats van de hele database. Prompt compressie snoeit de overbodige voorbeelden weg die elke aanroep opblazen. Open-weight modellen verlagen de kosten verder, door routinematige workloads af te handelen tegen een fractie van de API-prijzen, voor teams die de infrastructuur willen beheren.
Deze maatregelen zijn simpelweg het AI-equivalent van het uitschakelen van de lichten in lege kamers. De €1.380 per maand per ingenieur die Uber na de overschrijding in april oplegde, is het eerste bewijs dat optimalisatie werkt. Door deze technieken toe te passen, kunnen bedrijven hun tokenbudget verkleinen zonder personeel te ontslaan.
- Prompt caching: tot 90% korting op herhaalde invoer.
- Modelroutering: gebruik kleinere modellen voor eenvoudige taken.
- Batchverwerking: 50% korting voor niet-realtime werk.
- RAG: stuur alleen relevante kennis naar het model.
- Prompt compressie: verwijder overbodige voorbeelden.
- Open-weight modellen: lagere kosten voor eigen infrastructuur.
> Zoals Gartner-analist Helen Poitevin zei: "Het inkrimpen van het personeelsbestand kan budgettaire ruimte creëren, maar het creëert geen rendement."