AI-tokenbudget verlagen zonder team te krimpen

Sophie Jansen · 2026-07-10

Jensen Huang, CEO van Nvidia, heeft een simpele test om te bepalen of een engineer de moeite waard is: kijk naar hun tokenconsumptie. In de All-In Podcast na GTC 2026 zei hij dat als een engineer van €460.000 per jaar minder dan de helft van zijn salaris aan AI-tokens verbruikt, hij zich "diep zorgen" maakt. Nvidia mikt op een jaarlijkse tokenrekening van €1,84 miljard voor zijn engineers. ### De verschuiving van salaris naar tokens Dit beschrijft een trend die veel bedrijven al stiller doormaken: geld dat vroeger naar mensen ging, gaat nu naar tokens. De vier grootste hyperscalers verwachten gezamenlijk €644 miljard aan kapitaaluitgaven in 2026, bijna het dubbele van vorig jaar. Uitkeringsbureau Challenger, Gray & Christmas meldt dat AI voor de vierde maand op rij de meest genoemde reden is voor ontslagen in de VS. Een interne Meta-notitie, verkregen door Reuters, beschreef de ontslagen van 8.000 banen in mei als compensatie voor enorme investeringen, in een kwartaal waarin de omzet met 33% groeide. Dit zijn geen overlevingsmaatregelen; het is financiering. ### Het probleem: bezuinigingen leveren geen rendement op Het probleem is dat die financiering niet oplevert wat beloofd werd. Gartner ondervroeg 350 executives bij bedrijven met meer dan €920 miljoen omzet, die allemaal AI-agents of automatisering inzetten. Ongeveer 80% had personeel ontslagen, maar zonder correlatie met betere resultaten. Analist Helen Poitevin was duidelijk: "Personeelsreducties creëren budgetruimte, maar geen rendement." Uber leerde de tokenles op de dure manier. Het bedrijf gaf 5.000 engineers AI-codeertools in december, en had in april het hele AI-budget voor 2026 opgemaakt. COO Andrew Macdonald gaf toe dat, hoewel 70% van de code door AI werd gegenereerd, er geen verband was met zichtbare klantverbeteringen: "Die link is er nog niet." ### Waar het tokenbudget buigt De goedkoopste oplossing is ook de minst glamoureuze: stop met betalen om dezelfde tekst steeds opnieuw te verwerken. Prompt caching, nu standaard bij de grote API-aanbieders, verlaagt de kosten van herhaalde invoer met tot 90% bij Anthropic en OpenAI. Statische content zoals systeeminstructies en referentiedocumenten worden eenmalig verwerkt en tegen een fractie van de prijs herlezen. Beveiligingsbedrijf ProjectDiscovery verhoogde zijn cache-hitratio van 7% naar 84% door prompts te herstructureren. Dit verlaagde de totale LLM-uitgaven met 59 tot 70%, terwijl 9,8 miljard tokens uit de cache werden bediend. Die ene technische oefening bespaarde meer budget dan de meeste AI-gerelateerde ontslagrondes. ### Modeloptimalisatie en batchverwerking De volgende hefboom is werk naar het juiste model routeren. Prijslijsten van aanbieders tonen dat vlaggenschipmodellen vijf keer duurder zijn per token dan kleinere varianten. Toch sturen veel productieworkloads routinematige classificatie en samenvattingen standaard naar de duurste laag. Batchverwerking geeft nog eens 50% korting voor alles wat geen realtime antwoord nodig heeft. Retrieval-augmented generation (RAG) pakt het probleem anders aan: het stuurt het model alleen het relevante deel van een kennisbank, niet de hele database. Promptcompressie snoeit overbodige voorbeelden die elke aanroep opblazen. Open-weight modellen verlagen de kosten verder, omdat ze routinetaken afhandelen tegen een fractie van de prijs van frontier-API's, voor teams die de infrastructuur willen beheren. ### Praktische tips voor jouw organisatie - **Implementeer prompt caching**: Herstructureer prompts om de cache-hitratio te verhogen. Dit kan je LLM-kosten met 60-70% verlagen. - **Kies het juiste model**: Gebruik kleinere modellen voor classificatie en samenvattingen. Reserveer dure flagship-modellen voor complexe taken. - **Gebruik batchverwerking**: Plan taken die geen realtime antwoord nodig hebben in batches voor 50% korting. - **Pas RAG toe**: Beperk de context die het model ontvangt tot alleen relevante informatie. - **Overweeg open-weight modellen**: Voor teams met technische knowhow kunnen deze de kosten drastisch verlagen. Deze maatregelen zijn simpelweg het AI-equivalent van lichten uitdoen in lege kamers. Uber's maandelijkse limiet van €1.380 per engineer – opgelegd na de overschrijding in april – is een vroeg signaal dat structurele optimalisatie noodzakelijk is. In plaats van personeel te ontslaan, kunnen bedrijven hun tokenbudget buigen op zes verschillende manieren. Het is tijd om te stoppen met het behandelen van tokens als een vaste kostenpost en de flexibiliteit te benutten die er al is.