AI-tokenbudget verkleinen zonder je team te krimpen

·
Luister naar dit artikel~4 min
AI-tokenbudget verkleinen zonder je team te krimpen

Ontdek hoe je het tokenbudget van je team kunt verkleinen zonder ontslagen. Jensen Huang deelt zijn visie, en praktische tips zoals prompt caching en modelroutering besparen tot 70% op AI-kosten.

Jensen Huang, CEO van Nvidia, heeft een simpele test om te bepalen of een ingenieur de moeite waard is. Tijdens de All-In Podcast na GTC 2026 zei hij: 'Als een ingenieur van €460.000 minder dan de helft van zijn salaris aan AI-tokens verbruikt, dan maak ik me ernstige zorgen.' Nvidia werkt volgens hem aan een jaarlijkse tokenrekening van €1,84 miljard voor hun ingenieurs. Hij beschrijft een ruil die de meeste bedrijven al stiller hebben gemaakt: geld dat vroeger naar mensen ging, gaat nu naar tokens. De vier grootste hyperscalers hebben samen zo'n €644 miljard aan investeringen voor 2026 aangekondigd, bijna het dubbele van vorig jaar. Uitbureau Challenger, Gray & Christmas meldt dat AI voor de vierde maand op rij de belangrijkste reden is voor ontslagen in de VS. ### Waarom ontslagen geen oplossing zijn Een interne Meta-notitie, verkregen door Reuters, beschrijft de ontslagen van 8.000 medewerkers in mei als een manier om de enorme investeringen te compenseren, terwijl de omzet met 33% groeide. Dit zijn geen overlevingsmaatregelen, maar financieringsmethoden. Het probleem is dat die financiering niet heeft gebracht wat het beloofde. Gartner ondervroeg 350 directeuren van bedrijven met meer dan €920 miljoen omzet, die allemaal AI-agenten of automatisering inzetten. Ongeveer 80% had personeel ontslagen, maar zag geen verbetering in rendement. Analist Helen Poitevin zei: 'Minder personeel creëert budgetruimte, maar geen rendement.' ### De dure les van Uber Uber leerde de token-les op de harde manier. In december gaven ze 5.000 ingenieurs AI-codeertools, en in april was het hele AI-budget voor 2026 op. Operationeel directeur Andrew Macdonald gaf toe dat, ondanks dat 70% van de code door AI is gegenereerd, de link met klantwaarde ontbreekt: 'Die link is er nog niet.' ### Waar het tokenbudget buigt De goedkoopste oplossing is ook het minst glamoureus: stop met betalen voor het herhaaldelijk verwerken van dezelfde tekst. Prompt caching, nu standaard bij de grote API-aanbieders, verlaagt de kosten voor herhaalde invoer met tot 90% bij Anthropic en OpenAI. Statische inhoud zoals systeeminstructies wordt eenmalig verwerkt en daarna tegen een fractie van de prijs herlezen. Beveiligingsbedrijf ProjectDiscovery verhoogde de cache-hitratio van 7% naar 84% door prompts te herstructureren. Dit verlaagde hun totale LLM-uitgaven met 59 tot 70%, terwijl ze 9,8 miljard tokens uit cache serveerden. Die ene ingreep bespaarde meer budget dan de meeste AI-gerelateerde ontslagrondes. ### Slimmer routeren en comprimeren De volgende hefboom is het routeren van werk naar het juiste model. De prijslijsten van aanbieders laten zien dat vlaggenschipmodellen vijf keer duurder zijn per token dan kleinere varianten, maar veel productieworkloads sturen routinematige taken naar het duurste niveau. Batchverwerking geeft nog eens 50% korting voor taken die geen realtime antwoord nodig hebben. Retrieval-augmented generation (RAG) stuurt alleen het relevante deel van een kennisbank naar het model, in plaats van de hele database. Promptcompression verwijdert overbodige voorbeelden die elke aanroep duurder maken. Open-weight modellen verlagen de kosten verder voor teams die de infrastructuur willen beheren. ### Conclusie Deze maatregelen zijn simpelweg het AI-equivalent van het uitschakelen van lichten in lege kamers. Uber's limiet van €1.380 per ingenieur per maand, ingesteld na de overschrijding in april, is het eerste bewijs dat het anders kan. Bedrijven die nu investeren in tokenoptimalisatie, in plaats van personeelsreducties, zullen op de lange termijn winnen.