AI-tokenbudget verlagen zonder personeel te ontslaan

·
Luister naar dit artikel~5 min
AI-tokenbudget verlagen zonder personeel te ontslaan

Jensen Huang van Nvidia stelt dat een ingenieur minstens de helft van zijn salaris aan AI-tokens moet verbruiken. Ontslagen leveren geen rendement op, maar slim tokenbeheer wel. Ontdek hoe prompt caching, batchverwerking en RAG uw AI-budget verlagen zonder personeel te ontslaan.

Jensen Huang, CEO van Nvidia, heeft een simpele test om te bepalen of een ingenieur het behouden waard is: het tokenbudget. Tijdens de All-In Podcast na GTC 2026 zei hij dat als een ingenieur van €460.000 per jaar minder dan de helft van zijn salaris aan AI-tokens verbruikt, hij zich "diep zorgen zou maken". Nvidia werkt volgens hem toe naar een jaarlijkse tokenrekening van €1,84 miljard voor hun technische team. Hij beschreef een afweging die de meeste bedrijven al stiller hebben gemaakt: geld dat vroeger naar mensen ging, gaat nu naar tokens. De vier grootste hyperscalers hebben gezamenlijk ongeveer €644 miljard aan kapitaaluitgaven voor 2026 begroot, bijna het dubbele van vorig jaar. Ondertussen blijkt uit gegevens van outplacementbureau Challenger, Gray & Christmas dat AI voor de vierde maand op rij de meest genoemde reden is voor ontslagen in de VS. Een interne Meta-nota, verkregen door Reuters, beschreef de ontslagen van 8.000 functies in mei als compensatie voor de aanzienlijke investeringen van het bedrijf, in een kwartaal waarin de omzet met 33% groeide. Ontslagen bij bedrijven zoals deze zijn geen overlevingsmaatregelen. Ze zijn financiering. ### Het probleem: ontslagen leveren geen rendement op Het probleem is dat de financiering niet heeft gebracht wat het beloofde. Gartner ondervroeg 350 leidinggevenden bij bedrijven met een omzet van meer dan €920 miljoen, die allemaal AI-agenten of automatisering inzetten. Ongeveer 80% had personeel ingekrompen, maar er was geen verband met verbeterde rendementen. Analist Helen Poitevin was duidelijk: "Het verminderen van personeel kan budgettaire ruimte creëren, maar het creëert geen rendement." Uber leerde die les op de dure manier. Het bedrijf gaf in december 5.000 ingenieurs AI-codeertools, waardoor het hele AI-budget voor 2026 al in april was uitgeput. Chief Operating Officer Andrew Macdonald gaf toe dat, ondanks dat 70% van de vastgelegde code door AI is gegenereerd, de link met wat klanten merken ontbreekt: "Die link is er nog niet." ### Waar het tokenbudget wél buigt De goedkoopste oplossing is ook de minst glamoureuze: stop met betalen om dezelfde tekst steeds opnieuw te verwerken. Prompt caching, nu standaard bij de grote API-aanbieders, verlaagt de kosten van herhaalde invoer met tot 90% volgens de gepubliceerde prijzen van Anthropic en OpenAI. Statische inhoud zoals systeeminstructies en referentiedocumenten wordt eenmalig verwerkt en daarna tegen een fractie van de kosten herlezen. Beveiligingsbedrijf ProjectDiscovery verhoogde de cache-hitratio van 7% naar 84% door prompts te herstructureren, waardoor de totale LLM-uitgaven met 59 tot 70% daalden, terwijl 9,8 miljard tokens uit de cache werden bediend. Die ene technische oefening leverde meer budget op dan de meeste AI-gerelateerde ontslagrondes besparen. ### Slimmer routeren en batchverwerking De volgende hefboom is het routeren van werk naar het juiste model. De prijslijsten van providers laten zien dat vlaggenschipmodellen vijf keer zoveel per token kosten als hun kleinere broertjes, maar veel productieworkloads sturen routinematige classificatie en samenvatting standaard naar de duurste laag. Batchverwerking geeft nog eens 50% korting voor alles wat geen realtime antwoord nodig heeft. Retrieval-augmented generation pakt het probleem vanuit een andere hoek aan door het model alleen het relevante deel van een kennisbank te sturen in plaats van de hele inhoud, en promptcompressie verwijdert de redundante voorbeelden die elke aanroep opblazen. Open-weight modellen verlagen de kosten verder door routinematige workloads tegen een fractie van de API-prijzen van topmodellen af te handelen, voor teams die de infrastructuur willen beheren. Deze maatregelen zijn simpelweg het AI-equivalent van het uitschakelen van de lichten in lege kamers. Uber's maandelijkse limiet van €1.380 per ingenieur, opgelegd na de overschrijding in april, is een vroeg bewijs dat. ### Conclusie De echte les is dat bedrijven het tokenbudget als vast en het personeelsbestand als flexibel behandelden, terwijl het tegenovergestelde waar is. Loonkostenverlagingen gebeuren eenmalig en nemen institutionele kennis mee. Een tokenbudget buigt op een half dozijn plaatsen, als iemand de moeite neemt om het te optimaliseren. Door prompt caching, modelroutering, batchverwerking en RAG te combineren, kunnen organisaties hun AI-kosten drastisch verlagen zonder een enkel teamlid te ontslaan.