Waarom ontslagen niet werken en tokenbudgetten wel buigzaam zijn

·
Luister naar dit artikel~5 min
Waarom ontslagen niet werken en tokenbudgetten wel buigzaam zijn

Ontdek waarom ontslagen niet de oplossing zijn voor hoge AI-kosten en hoe je tokenbudgetten wél kunt optimaliseren. Lees de inzichten van Nvidia, Meta en Uber.

Jensen Huang heeft een simpele test om te bepalen of een ingenieur de moeite waard is, en die test hangt samen met een tokenbudget. Tijdens de All-In Podcast aan het einde van GTC 2026 zei de Nvidia-topman dat als een ingenieur van € 460.000 per jaar minder dan de helft van zijn salaris aan AI-tokens verbruikt, hij "diep bezorgd" zou zijn. Nvidia, zo bevestigde hij, werkt toe naar een jaarlijkse tokenrekening van € 1,84 miljard voor zijn technische team. Hij beschreef een afweging die de meeste bedrijven al stiller hebben gemaakt: geld dat ooit naar mensen ging, gaat steeds meer naar tokens. De vier grootste hyperscalers hebben gezamenlijk ongeveer € 644 miljard aan investeringsuitgaven voor 2026 aangekondigd, bijna het dubbele van vorig jaar. Uit data van outplacementbureau Challenger, Gray & Christmas blijkt dat AI voor de vierde maand op rij de meest genoemde reden is voor ontslagen in de VS. ### Ontslagen als financieringsmiddel Een intern Meta-memo, verkregen door Reuters, beschreef de ontslagen van 8.000 functies in mei als een manier om de aanzienlijke investeringen van het bedrijf te compenseren, in een kwartaal waarin de omzet met 33% groeide. De ontslagen bij bedrijven als deze zijn geen overlevingsmaatregelen. Ze zijn een vorm van financiering. Het probleem is dat die financiering niet heeft opgeleverd wat het beloofde. Gartner ondervroeg 350 leidinggevenden bij bedrijven met een omzet van meer dan € 920 miljoen, die allemaal AI-agents of automatisering inzetten. Ongeveer 80% had het personeelsbestand ingekrompen, maar er was geen verband met betere resultaten. De conclusie van analist Helen Poitevin was helder: "Het verkleinen van het personeelsbestand kan budgetruimte creëren, maar het levert geen rendement op." ### De dure les van Uber Uber leerde de token-kant van die les op de harde manier. Het bedrijf gaf in december 5.000 ingenieurs AI-codeertools, maar had in april al het volledige AI-budget voor 2026 verbruikt. Chief Operating Officer Andrew Macdonald gaf toe dat, ondanks dat 70% van de gecommitteerde code door AI is gegenereerd, het verband met iets dat klanten opmerken ontbreekt: "Die link is er nog niet." Zet die twee mislukkingen naast elkaar en het echte probleem wordt duidelijk. Bedrijven behandelden de tokenrekening als vast en het personeelsbestand als flexibel, terwijl het tegenovergestelde waar is. Bezuinigingen op salarissen gebeuren eenmalig en nemen institutionele kennis mee. Een tokenbudget blijkt op een half dozijn plekken buigzaam te zijn, als iemand de moeite neemt om het te optimaliseren. ### Waar het tokenbudget buigt De goedkoopste oplossing is ook de minst glamoureuze: stop met betalen om dezelfde tekst steeds opnieuw te verwerken. Prompt caching, nu standaard bij de grote API-providers, verlaagt de kosten van herhaalde invoer met tot 90% bij de gepubliceerde prijzen van Anthropic en OpenAI. Statische inhoud, zoals systeeminstructies en referentiedocumenten, wordt eenmalig verwerkt en tegen een fractie van het tarief herlezen. Beveiligingsbedrijf ProjectDiscovery documenteerde hoe het zijn cache-hitratio verhoogde van 7% naar 84% door prompts te herstructureren. Dit verlaagde de totale LLM-uitgaven met 59 tot 70%, terwijl er 9,8 miljard tokens uit de cache werden bediend. Die ene technische oefening leverde meer budget op dan de meeste AI-gerelateerde ontslagrondes besparen. ### De juiste maat model De volgende hefboom is het routeren van werk naar het model van de juiste omvang. De prijslijsten van providers laten zien dat vlaggenschipmodellen vijf keer zoveel kosten per token als hun kleinere broertjes. Toch sturen veel productieworkloads routinematige classificatie en samenvatting standaard naar de duurste laag. Batchverwerking biedt een extra korting van 50% voor alles dat geen realtime antwoord nodig heeft. ### Slimmere technieken voor minder tokens Retrieval-augmented generation (RAG) pakt het probleem vanuit een andere hoek aan door alleen het relevante deel van een kennisbank naar het model te sturen, in plaats van de hele database. Prompt compression vermindert de redundante voorbeelden die elke aanroep opblazen. Open-weight modellen verlagen de kosten nog verder en verwerken routinematige workloads tegen een fractie van de frontier API-prijzen, voor teams die de infrastructuur willen beheren. Deze maatregelen zijn simpelweg het AI-equivalent van het uitschakelen van de lichten in lege kamers. De maandelijkse limiet van € 1.380 per ingenieur die Uber instelde na de overschrijding in april, is het eerste bewijs dat bedrijven nu pas beginnen te ontdekken waar de echte besparingen liggen.