Amerikaanse gezondheidsinstanties testen AI-modellen van OpenAI en Anthropic: wat betekent dit voor Europa?
Sophie Jansen ·
Luister naar dit artikel~4 min
Amerikaanse gezondheidsinstanties testen AI-tools van OpenAI en Anthropic in het PULSE-programma. Wat betekent dit voor de toekomst van AI in de zorg? Lees meer over de uitdagingen en kansen.
Gezondheidsafdelingen in de Verenigde Staten gaan een nieuw programma starten waarbij ze generatieve AI-tools van OpenAI en Anthropic testen. Dit initiatief, genaamd PULSE (Public Health Use Case and Learning Scaling Engine), wordt ondersteund door de Coalition for Health AI (CHAI), Accenture, en de twee AI-bedrijven. Het doel? Leren hoe AI veilig en effectief kan worden ingezet in de publieke gezondheidszorg.
### Wat is PULSE precies?
PULSE is een proefprogramma dat plaatsvindt in 10 verschillende Amerikaanse staten, lokale gemeenschappen, tribale gebieden of territoria. Het idee is om praktische richtlijnen te ontwikkelen voor andere gezondheidsinstanties die overwegen AI in te zetten. OpenAI en Anthropic hebben elk 10 enterprise-licenties gedoneerd, waarmee tot 2.000 gezondheidsprofessionals aan de slag kunnen. Accenture begeleidt de deelnemers en helpt bij het opstellen van draaiboeken op basis van de ervaringen.
### Vijf toepassingen in de praktijk
De deelnemers worden ingedeeld in vijf groepen, elk gericht op een specifiek gebruik:
- **Biosurveillance en voorspelling van drugspieken** – het monitoren van ziekte-uitbraken en het voorspellen van drugstrends.
- **Sociale determinanten van gezondheid (SDoH) en mapping** – het in kaart brengen van factoren zoals inkomen en huisvesting die de gezondheid beïnvloeden.
- **Operationele efficiëntie en analyse van feedback uit de gemeenschap** – het verbeteren van processen en het begrijpen van wat mensen nodig hebben.
- **Publieke communicatie en meertalige vertaling** – het vertalen van gezondheidsinformatie naar verschillende talen.
- **Automatische ophaling van klinische gegevens en FHIR-query-engine** – het efficiënt ophalen en verwerken van medische data.
### De uitdagingen en vragen
Hoewel het programma veelbelovend klinkt, zijn er nog veel onduidelijkheden. CHAI heeft niet bekendgemaakt welke specifieke AI-modellen of configuraties worden gebruikt, of hoe de twee aanbieders worden toegewezen aan de pilots. Ook ontbreken duidelijke regels over privacy, beveiliging en menselijke controle. Zo is het niet duidelijk of fouten in queries of samenvattingen worden gecontroleerd door personeel voordat de informatie wordt gebruikt.
Daarnaast is onbekend of de pilots gebruikmaken van identificeerbare gegevens, geanonimiseerde data of synthetische datasets. Dit is cruciaal, want de Amerikaanse HIPAA-wetgeving vereist strenge bescherming van medische informatie. Maar HIPAA geldt niet voor alle deelnemende organisaties; het hangt af van het type instantie en de gegevens die worden verwerkt.
### Wat kunnen we hiervan leren?
Dr. David Lakey, voormalig gezondheidscommissaris van Texas, zei: "Elke grote technologische transformatie slaagt of faalt op basis van vertrouwen, governance en uitvoering. PULSE is ontworpen om instanties te ondersteunen bij praktische implementatie." Dit benadrukt dat AI niet alleen technisch moet werken, maar ook ethisch en transparant moet zijn.
OpenAI en Anthropic beweren dat ze geen invoer of uitvoer van hun zakelijke diensten gebruiken om hun modellen te trainen. Maar dat zegt niets over hoe de PULSE-implementaties worden geconfigureerd. Er zijn geen bewaartermijnen, toegangscontroles of auditprocedures vastgesteld. Dit roept vragen op over hoe gevoelige gezondheidsgegevens worden beschermd.
### Conclusie
PULSE is een interessante stap in de richting van AI in de publieke gezondheidszorg, maar er blijven veel onbeantwoorde vragen. Voor Europese lezers is het nuttig om te zien welke uitdagingen en kansen AI biedt in een gereguleerde omgeving. Het benadrukt het belang van duidelijke richtlijnen, privacybescherming en menselijke controle bij het inzetten van AI in de zorg.