AI Agents Schalen Door Logica en Zoekstrategieën te Scheiden

Sophie Jansen · 2026-02-06

Het bouwen van AI-agents die echt betrouwbaar zijn in productieomgevingen is een flinke uitdaging. Je kent het wel: een prompt werkt perfect tijdens de test, maar faalt plotseling bij de tweede poging. Dit komt omdat grote taalmodellen (LLMs) van nature stochastisch zijn – ze zijn onvoorspelbaar. Ontwikkelteams proberen dit vaak op te lossen door de kernlogica in te pakken met complexe foutafhandeling, herhaal-loops en vertakkende paden. Het resultaat? Een onderhoudsmonster. De code die bepaalt wat de agent moet doen, raakt verstrengeld met de code die de onvoorspelbaarheid van het model moet managen. ### Het Verstrengelingsprobleem in Agent-ontwerp Momenteel worden twee verschillende ontwerpaspecten vaak door elkaar gehaald. Enerzijds heb je de kernworkflow-logica: de exacte stappen om een taak uit te voeren. Anderzijds is er de inference-time strategie: hoe het systeem omgaat met onzekerheid, zoals het genereren van meerdere concepten of het verifiëren van uitvoer. Wanneer deze samensmelten, wordt de code broos. Een strategie zoals 'best-of-N' sampling implementeren? Dan moet je de hele agent-functie in een loop wikkelen. Overschakelen naar een complexere strategie zoals tree search? Vaak betekent dat een volledige herstructurering van de code. Dit beperkt experimenten enorm. Teams blijven vaak hangen in suboptimale strategieën, simpelweg omdat de engineering-overhead te hoog is. Ze kunnen niet makkelijk verschillende benaderingen uitproberen om betrouwbaarheid te verbeteren.  ### De Oplossing: Logica en Zoekstrategie Ontkoppelen Onderzoekers van Asari AI, MIT CSAIL en Caltech stellen een nieuwe architectuur voor. Ze introduceren een programmeermodel genaamd Probabilistic Angelic Nondeterminism (PAN) en een Python-implementatie genaamd ENCOMPASS. De kern van dit idee is verbluffend eenvoudig. Ontwikkelaars schrijven de 'happy path' van de workflow – alsof elke LLM-aanroep perfect slaagt. Op kritieke punten, waar onzekerheid optreedt, plaatsen ze een `branchpoint()` marker. Tijdens runtime interpreteert het framework deze markers en bouwt het een zoekboom van mogelijke uitvoerpaden. De ontwikkelaar definieert wat er moet gebeuren; het framework bepaalt hoe de onzekerheid wordt genavigeerd. Dit leidt tot wat de onderzoekers 'program-in-control' agents noemen. In tegenstelling tot 'LLM-in-control' systemen, waar het model alle beslissingen neemt, opereren deze agents binnen een door code gedefinieerde workflow. Het LLM wordt alleen ingeroepen voor specifieke subtaken. - **Voorspelbaarheid:** Enterprise-omgevingen prefereren deze structuur voor de hogere voorspelbaarheid en auditmogelijkheden. - **Flexibiliteit:** Je kunt verschillende zoekalgoritmen toepassen – depth-first search, beam search, Monte Carlo tree search – zonder de onderliggende bedrijfslogica aan te raken. - **Minder technische schuld:** De scheiding van zorgen maakt code onderhoudbaarder en experimenten goedkoper.  ### Praktische Toepassing: Legacy Migratie De kracht van deze aanpak blijkt uit complexe workflows zoals legacy code migratie. De onderzoekers pasten het framework toe op een Java-naar-Python vertaal-agent. De workflow omvatte het bestand-voor-bestand vertalen van een repository, het genereren van inputs en het valideren van de output. Zonder het ENCOMPASS framework zou elke onzekerheid in de vertaling – een ambiguïteit in de broncode, een niet-ondersteunde library – leiden tot ingewikkelde conditionele logica in de hoofdworkflow. Met het framework kon de 'happy path' van de vertaling worden geschreven, terwijl de zoekstrategie voor het omgaan met vertaalfouten separaat werd geconfigureerd. Het is een beetje zoals het plannen van een roadtrip. Je bepaalt de bestemmingen (de logica), maar je laat de navigatie-app (de zoekstrategie) beslissen over de exacte route, files, en alternatieve wegen. Je blijft in controle over het doel, maar je delegeert de uitvoering van onzekerheid. > Deze architecturale scheiding biedt een route naar schaalbare, onderhoudbare AI-agents in de enterprise. Het stelt teams in staat om te innoveren zonder zich vast te leggen op broze code-structuren. De transitie van AI-prototypes naar robuuste productie-agents vereist meer dan alleen krachtige modellen. Het vereist slimme software-architectuur die de inherente onzekerheid van LLMs erkent en beheert, zonder de ontwikkelervaring te compliceren. Door logica en zoekstrategie te scheiden, zetten we een belangrijke stap naar AI-agents die niet alleen slim zijn, maar ook betrouwbaar en schaalbaar.