Tokenbudget verkleinen zonder personeel te ontslaan

·
Luister naar dit artikel~4 min
Tokenbudget verkleinen zonder personeel te ontslaan

Ontdek hoe je AI-tokenkosten verlaagt zonder personeel te ontslaan. Leer van Nvidia, Uber en Gartner: bespaar tot 90% met prompt caching en slimme modelkeuzes.

Stel je voor: je geeft een engineer € 460.000 per jaar en die gebruikt voor minder dan de helft daarvan aan AI-tokens. Jensen Huang, de baas van Nvidia, zei in de All-In Podcast dat hij dat "diep verontrustend" zou vinden. Zijn bedrijf mikt op een jaarlijkse tokenrekening van € 1,84 miljard voor alle engineers. Dit is de nieuwe realiteit: geld dat eerst naar salarissen ging, stroomt nu naar tokens. ### De harde cijfers achter de verschuiving De vier grootste hyperscalers plannen voor 2026 samen zo'n € 644 miljard aan kapitaaluitgaven, bijna het dubbele van vorig jaar. Uit data van outplacementbureau Challenger, Gray & Christmas blijkt dat AI voor de vierde maand op rij de belangrijkste reden is voor ontslagen in de VS. Een interne Meta-nota, ingezien door Reuters, beschreef het schrappen van 8.000 functies in mei als een manier om de enorme investeringen te compenseren, terwijl de omzet met 33% groeide. Dit zijn geen overlevingsmaatregelen, dit is financiering. Maar wat levert die financiering op? Gartner ondervroeg 350 leidinggevenden bij bedrijven met meer dan € 920 miljoen omzet, die allemaal AI-agenten of automatisering gebruiken. Ongeveer 80% had personeel ontslagen, maar zag geen verbetering van de resultaten. Analist Helen Poitevin was duidelijk: "Minder mensen betekent niet automatisch meer rendement." ### De dure les van Uber Uber leerde die les op de harde manier. In december gaf het bedrijf 5.000 engineers AI-codeertools, en in april was het hele AI-budget voor 2026 al op. Operationeel directeur Andrew Macdonald gaf toe dat 70% van de code door AI werd gegenereerd, maar dat de link met wat klanten merken ontbrak. "Die link is er nog niet," zei hij. Wat gebeurt er als je deze twee mislukkingen naast elkaar zet? Bedrijven behandelden het tokenbudget als vast en het personeelsbestand als flexibel. Maar het tegenovergestelde is waar. Ontslagen gebeuren eenmalig en nemen kennis mee. Een tokenbudget kun je op een half dozijn plekken bijsturen, als iemand de moeite neemt. ### Waar het tokenbudget buigt De goedkoopste oplossing is ook de minst glamoureuze: stop met het herhaaldelijk verwerken van dezelfde tekst. Prompt caching, nu standaard bij de grote API-aanbieders, verlaagt de kosten van herhaalde invoer met tot 90%. Beveiligingsbedrijf ProjectDiscovery verhoogde de cache-hitrate van 7% naar 84% door prompts te herstructureren. Dat bespaarde 59 tot 70% op de totale LLM-kosten, terwijl het 9,8 miljard tokens uit de cache serveerde. Die ene ingreep leverde meer budget op dan de meeste AI-gerelateerde ontslagrondes. ### Slimmere modelkeuzes De volgende stap is het routeren van werk naar het juiste model. Vlaggenschipmodellen kosten vijf keer meer per token dan kleinere varianten, maar veel productieworkloads sturen routinematige taken naar de duurste laag. Batchverwerking geeft nog eens 50% korting voor alles wat geen realtime antwoord nodig heeft. Retrieval-augmented generation stuurt alleen het relevante deel van een kennisbank naar het model, en promptcompressie schrapt overbodige voorbeelden. Open-weight modellen kunnen routinewerk aan voor een fractie van de API-prijzen, mits je de infrastructuur beheert. Deze maatregelen zijn simpelweg het AI-equivalent van het uitschakelen van lichten in lege kamers. Uber legde na de overschrijding een maandelijkse limiet van € 1.380 per engineer op. Dat is een begin, maar geen structurele oplossing. Wie zijn tokenbudget onder controle wil krijgen, moet de techniek begrijpen, niet alleen de personeelslijst.