Waarom AI in de zorg niet voor iedereen hetzelfde werkt

Sophie Jansen · 2026-08-06

Stel je voor: je zit bij de huisarts met een vreemde plek op je huid. De arts scant de plek, voert de afbeelding in een AI-systeem en krijgt binnen enkele seconden een diagnose. Klinkt efficiënt, toch? Maar wat als die AI-assistent voor jou als patiënt heel anders werkt dan voor de dokter? Dat is precies wat onderzoekers van MIT en hun collega's ontdekten. Hun bevindingen, gepubliceerd in Nature Medicine, laten zien dat AI-uitlegtools in de gezondheidszorg totaal verschillende resultaten opleveren, afhankelijk van wie ze gebruikt. ### De kern van het probleem: uitleg kan misleiden Laten we eerlijk zijn: AI in de zorg is geen sciencefiction meer. Het wordt nu al gebruikt bij het diagnosticeren van huidziekten, en steeds vaker zoeken mensen zelf online naar medische antwoorden via AI-zoekmachines. Maar hier zit de crux: de manier waarop AI zijn beslissingen uitlegt, bepaalt hoe goed verschillende gebruikers presteren. De onderzoekers testten verschillende interfaces bij twee groepen: mensen zonder medische kennis en huisartsen. Beide groepen moesten huidafbeeldingen beoordelen op de aanwezigheid van kanker. De resultaten waren verrassend. ### Niet-experts verbeteren, maar met een risico Mensen zonder medische achtergrond werden inderdaad nauwkeuriger met AI-hulp. Klinkt goed, toch? Maar hier wordt het interessant: hun verbetering kwam vooral doordat ze blindelings vertrouwden op het model. Wanneer het model fout zat, kelderde hun prestatie harder dan dat het verbeterde wanneer het model juist zat. Marzyeh Ghassemi, universitair hoofddocent aan MIT, waarschuwt dan ook: "Goede AI-systemen kunnen prestaties verbeteren, maar dit moet zorgvuldig worden afgewogen tegen algoritmische overgave die tot meer fouten kan leiden." ### De verschillende soorten AI-uitleg Niet alle uitleg is hetzelfde. De onderzoekers testten vier benaderingen: - **Voorspelling zonder uitleg**: alleen de diagnose en het vertrouwensniveau - **Vergelijkbare afbeeldingen**: beelden die de voorspelling ondersteunen - **Heatmaps**: visuele markeringen van relevante gebieden - **LLM-uitleg**: tekstuele uitleg in gewone taal, gegenereerd door grote taalmodellen Elke methode had een ander effect. En dat effect verschilde sterk tussen de twee gebruikersgroepen. ### Huisartsen presteren beter zonder uitleg Hier wordt het pas echt interessant. Huisartsen presteerden het beste wanneer ze alleen een voorspelling kregen, zonder enige uitleg. De toevoeging van uitleg maakte hen juist minder nauwkeurig. Waarom? Omdat ze werden beïnvloed door het anker-effect: de uitleg trok hun aandacht en beïnvloedde hun eigen oordeel, zelfs wanneer dat oordeel beter was. ### LLM-uitleg: het gevaarlijkste effect De meest zorgwekkende bevinding? LLM-uitleg zorgde voor de sterkste vorm van overgave. Deelnemers vertrouwden deze uitleg, of het model nu juist of fout zat. Ze vonden vage, generieke uitleg zelfs overtuigender dan specifieke details. En gebruikers die LLM-hulp kregen, rapporteerden meer vertrouwen in foute antwoorden. Roxana Daneshjou, assistent-professor aan Stanford University, vat het treffend samen: "Onze bevindingen tonen aan dat degenen met de minste medische kennis het meest waarschijnlijk op het verkeerde pad worden gebracht." ### Wat betekent dit voor AI in de zorg? Deze studie is een wake-upcall. Het ontwerp van AI-interfaces in de gezondheidszorg is geen technisch detail, maar een kwestie van patiëntveiligheid. Een overtuigende tekstuele uitleg kan autoriteit uitstralen, zelfs wanneer het model een fout maakt. En dat is precies waarom we zorgvuldig moeten nadenken over hoe we AI presenteren aan verschillende gebruikers. Voor consumentgerichte diagnostische systemen betekent dit dat we extra voorzichtig moeten zijn. Een mooie uitleg is niet altijd beter. Soms is minder inderdaad meer.