AI-tokenbudget verkleinen zonder je team te krimpen

·
Luister naar dit artikel~5 min
AI-tokenbudget verkleinen zonder je team te krimpen

Jensen Huang stelt dat een ingenieur van €460.000 per jaar minstens de helft aan AI-tokens moet verbruiken. Ontdek hoe je tokenkosten kunt verlagen zonder personeel te ontslaan, met slimme technieken zoals caching en modelroutering.

Jensen Huang, de baas van Nvidia, heeft een simpele test voor of een ingenieur het geld waard is. En die test draait om tokens. Tijdens de All-In Podcast na GTC 2026 zei hij dat als een ingenieur van €460.000 per jaar minder dan de helft van dat bedrag aan AI-tokens verbruikt, hij zich 'ernstig zorgen' zou maken. Nvidia werkt volgens hem aan een jaarlijkse tokenrekening van €1,84 miljard voor zijn hele ingenieursafdeling. Hij beschreef een afweging die de meeste bedrijven allang stilletjes maken: geld dat vroeger naar mensen ging, gaat nu naar tokens. De vier grootste cloudbedrijven plannen voor 2026 gezamenlijk ongeveer €644 miljard aan investeringen, bijna het dubbele van vorig jaar. En uitbestedingsbureau Challenger, Gray & Christmas meldt dat AI nu al vier maanden op rij de meest genoemde reden is voor ontslagen in de VS. ### De financieringsparadox Een interne Meta-notitie, ingezien door Reuters, beschreef de 8.000 ontslagen in mei als een manier om de enorme investeringen van het bedrijf te compenseren. En dat in een kwartaal waarin de omzet met 33% groeide. Dit zijn geen overlevingsmaatregelen. Dit is financiering. Het probleem? Die financiering heeft niet gebracht wat het beloofde. Gartner ondervroeg 350 directeuren van bedrijven met meer dan €920 miljoen omzet, die allemaal AI-agenten of automatisering inzetten. Zo'n 80% had personeel ontslagen, maar zag geen verbetering in rendement. Analist Helen Poitevin was duidelijk: 'Personeelsreducties creëren misschien budgetruimte, maar ze creëren geen rendement.' Uber leerde de token-les op de dure manier. Het gaf 5.000 ingenieurs in december AI-codeertools, en had in april al het hele AI-budget voor 2026 opgemaakt. Operationeel directeur Andrew Macdonald gaf toe dat 70% van de code door AI is gegenereerd, maar dat de link met wat klanten merken ontbreekt: 'Die link is er nog niet.' ### Waar het tokenbudget buigt Zet die twee mislukkingen naast elkaar en het echte probleem wordt duidelijk. Bedrijven behandelden de tokenrekening als vast en het personeelsbestand als flexibel. Terwijl het andersom is. Loonrondes zijn eenmalig en nemen institutionele kennis mee. Een tokenbudget blijkt op een half dozijn plekken te buigen, als iemand de moeite neemt om het te optimaliseren. De goedkoopste oplossing is ook de minst glamoureuze: stop met betalen om dezelfde tekst steeds opnieuw te verwerken. Prompt-caching, nu standaard bij de grote API-aanbieders, verlaagt de kosten van herhaalde invoer met tot 90% bij Anthropic en OpenAI. Statische content zoals systeeminstructies en referentiedocumenten wordt een keer verwerkt en daarna tegen een fractie van de prijs herlezen. Beveiligingsbedrijf ProjectDiscovery verhoogde de cache-hitrate van 7% naar 84% door prompts te herstructureren. Dat verlaagde de totale LLM-uitgaven met 59 tot 70% terwijl het 9,8 miljard tokens uit de cache serveerde. Die ene technische oefening leverde meer budget op dan de meeste AI-ontslagen besparen. ### Slimme modelkeuzes De volgende hefboom is het routeren van werk naar het juiste model. De prijslijsten van providers laten zien dat vlaggenschipmodellen vijf keer duurder zijn per token dan hun kleinere broertjes. Toch sturen veel productieworkloads routinematige classificatie en samenvatting naar de duurste laag. Batchverwerking geeft nog eens 50% korting voor alles dat geen realtime antwoord nodig heeft. - Prompt-caching: tot 90% besparing op herhaalde invoer - Modelroutering: kies het juiste model voor de taak - Batchverwerking: 50% korting voor niet-realtime werk - RAG: stuur alleen de relevante kennis naar het model - Promptcompressie: verwijder overbodige voorbeelden Retrieval-augmented generation (RAG) pakt het probleem van een andere kant aan door alleen het relevante deel van een kennisbank naar het model te sturen, in plaats van de hele boel. Promptcompressie schrapt de overbodige voorbeelden die elke aanroep opblazen. Open-weight-modellen verlagen de kosten verder, door routinematig werk af te handelen voor een fractie van de API-prijzen van de topmodellen, voor teams die de infrastructuur willen beheren. Deze maatregelen zijn simpelweg het AI-equivalent van het uitzetten van de lichten in lege kamers. En Ubers maandelijkse limiet van €1.380 per ingenieur – ingesteld na de overschrijding in april – is het vroege bewijs dat het werkt.