AI-tokenbudget verlagen zonder je team te krimpen

Sophie Jansen · 2026-07-10

Jensen Huang heeft een simpele test om te bepalen of een engineer de moeite waard is – en die test hangt samen met een tokenbudget. Tijdens de All-In Podcast, vlak na GTC 2026, zei de Nvidia-topman dat als een engineer van €460.000 per jaar minder dan de helft van zijn salaris aan AI-tokens verbruikt, hij "diep verontrust" zou zijn. Nvidia werkt volgens hem toe naar een jaarlijkse tokenrekening van €1,84 miljard voor zijn hele engineeringteam. Hij beschreef een afweging die de meeste bedrijven al stiller hebben gemaakt: geld dat vroeger naar mensen ging, gaat nu naar tokens. De vier grootste hyperscalers hebben samen ongeveer €644 miljard aan kapitaaluitgaven voor 2026 begroot, bijna het dubbele van vorig jaar. Ondertussen blijkt uit data van outplacementbureau Challenger, Gray & Christmas dat AI voor de vierde maand op rij de meest genoemde reden is voor ontslagen in de VS. Een interne Meta-notitie, verkregen door Reuters, beschreef de 8.000 ontslagen in mei als een manier om de grote investeringen van het bedrijf te compenseren – in een kwartaal waarin de omzet met 33% groeide. Dit zijn geen overlevingsmaatregelen. Het is financiering. ### Het probleem: ontslagen leveren geen rendement op Het probleem is dat die financiering niet heeft gebracht wat het beloofde. Gartner ondervroeg 350 executives bij bedrijven met een omzet van meer dan €920 miljoen, die allemaal AI-agents of automatisering inzetten. Ongeveer 80% had personeel ontslagen, maar er was geen verband met betere resultaten. Analist Helen Poitevin was duidelijk: "Personeelsreducties creëren misschien budgetruimte, maar ze creëren geen rendement." Uber leerde de token-kant van die les op de dure manier. Het bedrijf gaf 5.000 engineers in december AI-codeertools, en had in april al het hele AI-budget voor 2026 opgemaakt. COO Andrew Macdonald gaf toe dat, ondanks dat 70% van de gecommitte code door AI is gegenereerd, de link met wat klanten merken ontbreekt: "Die link is er nog niet." Zet die twee mislukkingen naast elkaar en het echte probleem wordt duidelijk. Bedrijven behandelden de tokenrekening als vast en het personeelsbestand als flexibel, terwijl het omgekeerde waar is. Ontslagen gebeuren eenmalig en nemen institutionele kennis mee. Een tokenbudget blijkt op een half dozijn plekken buigzaam, als iemand de moeite neemt om het te optimaliseren. ### Waar het tokenbudget buigt De goedkoopste oplossing is ook de minst glamoureuze: stop met betalen om dezelfde tekst steeds opnieuw te verwerken. Prompt caching, nu standaard bij de grote API-aanbieders, verlaagt de kosten van herhaalde invoer met tot 90% onder de gepubliceerde prijzen van Anthropic en OpenAI. Statische content zoals systeem instructies en referentiedocumenten wordt één keer verwerkt en daarna tegen een fractie van de prijs herlezen. Beveiligingsbedrijf ProjectDiscovery verhoogde zijn cache-hitratio van 7% naar 84% door prompts te herstructureren. Dat verlaagde de totale LLM-uitgaven met 59 tot 70%, terwijl er 9,8 miljard tokens uit de cache werden bediend. Die ene technische oefening leverde meer budget op dan de meeste AI-gerelateerde ontslagrondes besparen. ### De juiste modelgrootte kiezen De volgende hefboom is het routeren van werk naar het model van de juiste grootte. De prijslijsten van aanbieders laten zien dat vlaggenschipmodellen vijf keer zoveel per token kosten als hun kleinere broertjes. Toch sturen veel productieworkloads routinematige classificatie en samenvattingen naar de duurste laag. Batchverwerking geeft nog eens 50% korting voor alles wat geen realtime antwoord nodig heeft. Retrieval-augmented generation pakt het probleem van een andere kant aan door het model alleen het relevante deel van een kennisbank te sturen, in plaats van de hele database. Prompt compressie snoeit de overbodige voorbeelden die elke aanroep opblazen. Open-weight modellen verlagen de kosten verder: ze verwerken routinematige workloads voor een fractie van de prijs van frontier API's, voor teams die de infrastructuur willen beheren. Deze maatregelen zijn simpelweg het AI-equivalent van het uitzetten van lichten in lege kamers. Ubers maandelijkse limiet van €1.380 per engineer – ingesteld na de overschrijding in april – is het eerste bewijs dat het werkt. ### Praktische tips om direct te beginnen - **Controleer je cache-hitratio.** Als die onder de 50% zit, herstructureer dan je prompts. Kleine aanpassingen kunnen grote besparingen opleveren. - **Gebruik batchverwerking** voor taken die niet direct een antwoord nodig hebben. Denk aan dagelijkse rapportages of bulkclassificatie. - **Kies het juiste model.** Gebruik geen GPT-4 of Claude 3.5 voor simpele taken zoals het categoriseren van e-mails. Een kleiner model is vaak meer dan goed genoeg. - **Implementeer RAG** om alleen relevante data mee te sturen. Dit bespaart tokens en verbetert de nauwkeurigheid. - **Stel een maandelijkse limiet per engineer in.** Zo voorkom je dat één team het hele budget opmaakt. De les is simpel: stop met het krimpen van teams en begin met het optimaliseren van je tokenverbruik. Het geld dat je bespaart, kun je beter gebruiken voor innovatie die wél zichtbaar is voor klanten.