Wat Zelfrijdende Auto's Écht Denken: Het Geheim Achter Hun Beslissingen

Sophie Jansen · 2026-09-02

Stel je voor: je zit in een zelfrijdende auto en plotseling remt hij keihard af. Er is niets te zien op de weg. Geen obstakel, geen gevaar. Waarom deed hij dat? Tot voor kort was dat een compleet mysterie. Het systeem gaf geen uitleg. Maar dat verandert nu, dankzij een baanbrekende samenwerking tussen Motional en onderzoekers van MIT. Het werk, gepubliceerd in het prestigieuze tijdschrift Nature, is een directe aanval op het zogenaamde 'black-box' probleem van kunstmatige intelligentie in autonome voertuigen. CEO Laura Major van Motional en het team van MIT's Computer Science and Artificial Intelligence Laboratory hebben een systeem ontwikkeld dat de interne berekeningen van een zelfrijdend voertuig vertaalt naar begrijpelijke concepten. ### Het Zwarte Gat van Neurale Netwerken Moderne zelfrijdende systemen leunen steeds zwaarder op neurale netwerken die zijn getraind met enorme hoeveelheden rijdata. Die netwerken presteren vaak goed, maar ze leggen hun redenering nooit bloot. Het zijn gesloten systemen. Als een auto onverklaarbaar remt, blijft het gissen naar de reden. Dat ondermijnt het vertrouwen, zowel bij de inzittenden als bij de maatschappij. ### Hoe CW-Net de Black Box Opent De oplossing heet het Concept-Wrapper Network, ofwel CW-Net. Dit systeem vertaalt de interne logica van het zelfrijdende systeem naar menselijke concepten zoals 'Naderend Stilstaand Voertuig' of 'Fietser in de Nabijheid'. Deze concepten kunnen real-time op een dashboard worden getoond, zodat je precies ziet welke factoren de beslissing van de auto beïnvloeden op het moment zelf. Het mooie is: dit zijn geen achteraf verzonnen verklaringen. Het voertuig neemt zijn beslissingen *direct* op basis van deze begrijpelijke concepten. Een remingreep kan zo worden herleid tot een specifieke trigger. Motional noemt dit 'causally faithful' – betrouwbaar in de oorzaak-gevolg relatie. Het verschilt fundamenteel van benaderingen die natuurlijke taal genereren die plausibel klinkt, maar niet per se accuraat is. Laura Major benadrukt het belang van deze doorzichtigheid: "De puur end-to-end deep learning aanpak kan tot een heel goede 80-90 procent – misschien zelfs 95 procent – oplossing komen. Maar dat is niet goed genoeg om een bestuurder te verwijderen of om het vertrouwen te winnen van steden, gemeenschappen en klanten." ### Testen in de Echte Wereld: Las Vegas Veel onderzoek naar verklaarbare AI blijft steken in computersimulaties in een lab. Het team van Motional en MIT koos een andere weg. Ze implementeerden CW-Net in een autonoom voertuig met een ervaren veiligheidsoperator achter het stuur. Data werd verzameld op een privé testbaan en op de openbare wegen rond Las Vegas. Twee voorbeelden uit de testritten laten zien waarom dit systeem zo waardevol is: - **Het mysterie van de verkeerskegel**: Het autonome voertuig stopte herhaaldelijk bij een verkeerskegel. De operator dacht dat de kegel het gedrag veroorzaakte. Toen onderzoekers de kegel verwijderden, stopte de auto toch. CW-Net toonde de echte oorzaak: het experimentele planningssysteem 'hallucineerde' een stilstaand voertuig voor zich, een patroon dat terug te voeren was op de trainingsdata. Die verklaring stelde het team in staat het probleem te begrijpen, te voorspellen en op te lossen. - **De onzichtbare fietser**: De auto detecteerde een fietser en stopte zoals verwacht. CW-Net onthulde echter dat het experimentele planningssysteem zijn beslissing *niet* baseerde op de aanwezigheid van de fietser. De veiligheidsbestuurder ging hierdoor extra voorzichtig om met fietsers. Latere analyse bevestigde dat die voorzichtigheid terecht was: het remmen kwam in dat geval van een veiligheidsback-upsysteem, niet van het deep-learning-planning systeem. De prestaties van het voertuig bleven ondertussen stabiel. Deze doorbraak betekent niet alleen meer veiligheid, maar vooral meer vertrouwen. Als we straks echt onze handen van het stuur kunnen halen, willen we wel begrijpen wat de auto ons vertelt. CW-Net lijkt die cruciale brug te slaan tussen geavanceerde AI en menselijk begrip. Het maakt de toekomst van zelfrijdende auto's niet alleen slimmer, maar ook transparanter.