Wat gebeurt er echt in het hoofd van een zelfrijdende auto?

Sophie Jansen · 2026-09-02

Stel je voor: je zit in een zelfrijdende auto en hij remt plotseling hard in. De weg is leeg, er is geen gevaar te zien. Waarom deed hij dat? Niemand die het weet. Dat is het zogenaamde 'black-box' probleem van kunstmatige intelligentie. Het systeem werkt, maar je kunt zijn gedachten niet lezen. Dat is precies waar Motional en onderzoekers van het MIT een oplossing voor hebben gevonden. Ze hebben een systeem ontwikkeld dat de beslissingen van een autonome auto in real-time uitlegt. Hun werk, gepubliceerd in het prestigieuze tijdschrift Nature, kan weleens een keerpunt betekenen. ### Het raadsel van de neurale netwerken Moderne zelfrijdende systemen draaien op neurale netwerken, getraind met enorme hoeveelheden rijdata. Die netwerken presteren goed, maar ze leggen hun redenering nooit bloot. Ze zijn als een ondoordringbare doos. Als zo'n auto iets onverwachts doet, blijft het gissen naar de reden. Dat is niet alleen vervelend, maar ook een groot obstakel voor het vertrouwen van de maatschappij. ### CW-Net: De vertaler tussen AI en mens Het nieuwe systeem heet de Concept-Wrapper Network, oftewel CW-Net. Zijn taak? Het vertalen van de interne logica van een zelfrijdend systeem naar begrijpelijke concepten. Denk aan zinnen als 'Naderend stilstaand voertuig' of 'Fietser in de buurt'. Het mooie is dat deze uitleg niet achteraf wordt verzonnen. Nee, het beslissingssysteem van de voertuig handelt *direct* op basis van deze menselijke concepten. Een remactie kun je dus direct herleiden naar een specifieke trigger. Motional noemt dit 'causally faithful' – betrouwbaar vanuit oorzaak en gevolg. CEO Laura Major van Motional zet het belang van deze doorzichtigheid scherp neer tegenover puur end-to-end deep learning. > 'De puur end-to-end aanpak kan een heel goede 80-90 procent – misschien wel 95 procent – oplossing bereiken,' zegt ze. 'Maar dat is niet goed genoeg om een bestuurder te verwijderen of om het vertrouwen van steden, gemeenschappen en klanten te verdienen.' ### De proef op de som: Testen in Las Vegas Veel onderzoek naar verklaarbare AI blijft steken in computersimulaties in het lab. Het team van Motional en MIT pakte het anders aan. Ze installeerden CW-Net in een echt autonoom voertuig en namen het mee de weg op – zowel op een privé-testbaan als op openbare wegen rond Las Vegas, met een ervaren veiligheidsbestuurder achter het stuur. Ze gebruikten een experimentele versie van hun op deep learning gebaseerde planningssysteem. Twee voorbeelden uit de testritten laten zien waar CW-Net zijn waarde bewees: - **Het mysterie van de verkeerskegel:** De auto stopte steeds bij een verkeerskegel. De bestuurder dacht dat de kegel de oorzaak was. Toen de onderzoekers de kegel verwijderden, stopte de auto nog steeds. CW-Net liet de echte reden zien: het experimentele systeem 'hallucineerde' een stilstaand voertuig voor zich, een patroon uit zijn trainingsdata. Dankzij die uitleg konden de onderzoekers het probleem begrijpen en oplossen. - **De onzichtbare fietser:** De auto detecteerde een fietser en stopte zoals verwacht. CW-Net onthulde echter dat het experimentele planningssysteem zijn beslissing *niet* baseerde op de aanwezigheid van die fietser. De veiligheidsbestuurder werd hierdoor extra alert rond fietsers. Latere analyse bevestigde dat die voorzichtigheid terecht was; het remmen kwam van een veiligheidsback-upsysteem, niet van de AI-planner. Deze tests tonen aan dat transparantie niet ten koste gaat van prestaties. Het systeem bleef even goed functioneren. Sterker nog, het gaf ontwikkelaars cruciale inzichten om de AI veiliger en betrouwbaarder te maken. Het is een grote stap van theorie naar praktijk, en een essentieel chapitre in het verhaal naar volledig autonoom rijden waar we allemaal in kunnen vertrouwen.