Hoe zelfrijdende auto's nu eindelijk uitleggen wat ze denken

Sophie Jansen · 2026-09-02

Stel je voor: je zit in een zelfrijdende auto en hij remt plotseling hard af op een verder lege weg. Geen idee waarom. Dat is precies het 'black-box' probleem waar de industrie al jaren mee worstelt. Maar daar lijkt nu verandering in te komen. Onderzoekers van Motional en MIT hebben een systeem ontwikkeld dat zelfrijdende auto's in real-time laat uitleggen waaróm ze bepaalde beslissingen nemen. Het werk werd gepubliceerd in Nature, en het zou weleens een gamechanger kunnen zijn voor het vertrouwen in autonoom rijden. ### Het mysterie van de onzichtbare gevaren Moderne zelfrijdende systemen draaien op neurale netwerken die getraind zijn met enorme hoeveelheden rijdata. Die netwerken doen hun werk best goed, maar ze laten hun redenering niet zien. Ze zijn als een kok die een perfect gerecht serveert, maar weigert het recept te delen. Waarom remde de auto? Was het een denkbeeldig obstakel? Een fout in de training? Dat gebrek aan transparantie is een groot probleem. Zonder uitleg kan geen enkele stad, gemeenschap of bestuurder dit soort technologie echt vertrouwen. Laura Major, CEO van Motional, zegt het zelf: "Een puur end-to-end systeem kan tot 95% accuraat zijn, maar dat is niet genoeg om de chauffeur te verwijderen of vertrouwen te winnen." ### CW-Net: De vertaler tussen AI en mens Hun oplossing heet het Concept-Wrapper Network, of CW-Net. Dit systeem vertaalt de interne berekeningen van het neurale netwerk naar menselijk leesbare concepten. Denk aan zinnen zoals: - "Nadert stilstaand voertuig" - "Fietser dichtbij" - "Voetganger steekt mogelijk over" Het mooie is dat deze uitleg niet achteraf wordt verzonnen als een soort gok. Nee, het voertuig neemt zíjn beslissingen al op basis van deze concepten. Als de auto remt, kun je direct op het dashboard zien welk concept die actie triggerde. Motional noemt dit 'causaal betrouwbaar' – het is de echte reden, geen aanname. ### Van het lab de straat op in Las Vegas Veel onderzoek naar uitlegbare AI blijft steken in computersimulaties. Dit team wilde het écht testen. Ze installeerden CW-Net op een autonoom voertuig en reden ermee op een privéterrein en op openbare wegen rond Las Vegas, altijd met een ervaren veiligheidsoperator achter het stuur. Ze gebruikten een experimenteel planningssysteem dat goed presteerde, maar nog gebreken vertoonde. CW-Net bracht twee cruciale incidenten aan het licht die laten zien waarom deze transparantie zo waardevol is. ### De zaak van de spookfile In de eerste test stopte de auto herhaaldelijk bij een verkeerskegel. De operator dacht dat de kegel de oorzaak was. De onderzoekers verwijderden de kegel... en de auto stopte nog steeds. CW-Net liet de echte reden zien: het experimentele systeem 'hallucineerde' een stilstaand voertuig voor zich. Een patroon uit de trainingsdata dat nu zichtbaar werd gemaakt. Met die kennis konden de onderzoekers het probleem begrijpen en oplossen. ### De fietser die niet werd gezien Een tweede test betrof een fietser. De autonome auto detecteerde de fietser en stopte zoals verwacht. Maar CW-Net onthulde iets verontrustends: het experimentele planningssysteem baseerde zijn beslissing níet op de aanwezigheid van de fietser. De veiligheidschauffeur werd hierdoor extra alert rond fietsers. Latere analyse bevestigde dat deze voorzichtigheid terecht was – het remmen kwam toen van een veiligheidsback-upsysteem, niet van het AI-brein. ### Waarom dit meer is dan een technisch trucje Dit gaat verder dan alleen een nieuw dashboardlichtje. Het raakt de kern van acceptatie. Kunnen we technologie vertrouwen die we niet begrijpen? Voor iets zo ingrijpends als een auto die zelf beslissingen neemt, lijkt het antwoord steeds meer 'nee' te zijn. Door de black box te openen, bouwen ontwikkelaars niet alleen aan betere systemen, maar ook aan maatschappelijk draagvlak. Het stelt ingenieurs in staat om fouten sneller te diagnosticeren en te repareren. En misschien wel het belangrijkst: het geeft iedereen in de auto – of erbuiten – wat meer gemoedsrust. Want weten waaróm iets gebeurt, is vaak de eerste stap naar vertrouwen.