Amerikaanse volksgezondheidsinstanties testen generatieve AI van OpenAI en Anthropic in het PULSE-programma. Wat zijn de vijf gebruiksscenario's en welke vragen blijven onbeantwoord?
De Amerikaanse volksgezondheidsinstanties gaan een nieuwe fase in: ze testen generatieve AI-tools van OpenAI en Anthropic. Dit gebeurt onder een nieuw programma genaamd PULSE, een samenwerking tussen de Coalition for Health AI (CHAI), OpenAI, Anthropic en Accenture. Maar wat betekent dit precies, en waarom is dit relevant voor professionals in de AI-sector? Laten we het rustig bekijken.
### Wat is PULSE precies?
PULSE staat voor Public Health Use Case and Learning Scaling Engine. Het is een proefprogramma dat loopt in 10 verschillende Amerikaanse staten, lokale overheden, tribale gebieden of territoria. Het doel? Praktische richtlijnen ontwikkelen voor andere volksgezondheidsinstanties die ook AI willen inzetten. Denk aan een soort blauwdruk, gebaseerd op echte ervaringen.
OpenAI en Anthropic hebben elk 10 enterprise-licenties gedoneerd, waarmee tot 2.000 volksgezondheidsmedewerkers aan de slag kunnen. Accenture begeleidt de deelnemers en helpt bij het opstellen van de zogenaamde playbooks. Klinkt goed, toch? Maar er zijn nog veel open vragen.
### Vijf concrete toepassingen
De deelnemende instanties worden verdeeld over vijf verschillende gebruiksscenario's. Dit zijn:
- **Biosurveillance en drug-wave predictie**: het voorspellen van drugspieken en het monitoren van ziekte-uitbraken.
- **Sociale determinanten van gezondheid (SDoH) en mapping**: in kaart brengen van factoren zoals inkomen, huisvesting en toegang tot zorg.
- **Operationele efficiëntie en community-feedbackanalyse**: processen stroomlijnen en feedback uit de gemeenschap analyseren.
- **Publieke communicatie en meertalige vertaling**: berichten vertalen naar meerdere talen voor een breder publiek.
- **Geautomatiseerde klinische data-ophaling en FHIR-query engine**: medische gegevens ophalen via de FHIR-standaard.
### De onzekerheden: wat weten we nog niet?
Hoewel het programma ambitieus klinkt, zijn er nog veel onduidelijkheden. CHAI heeft bijvoorbeeld niet bekendgemaakt welke specifieke producten of modelversies worden gebruikt. Ook is niet duidelijk hoe OpenAI en Anthropic over de pilots worden verdeeld. Dat roept vragen op over consistentie en reproduceerbaarheid.
Daarnaast is het onduidelijk of de AI-modellen zelf queries genereren, records ophalen, informatie samenvatten, of een combinatie van deze functies uitvoeren. En wat gebeurt er met fouten? Worden onjuiste queries of onvolledige samenvattingen gecontroleerd door menselijke medewerkers? Het antwoord blijft voorlopig uit.
### Privacy en beveiliging: een grijs gebied
Een groot punt van zorg is privacy. De pilots kunnen te maken krijgen met demografische, geografische, klinische of populatiegezondheidsdata. Maar CHAI heeft niet aangegeven of het om identificeerbare gegevens, geanonimiseerde informatie, synthetische data of geaggregeerde datasets gaat.
De Amerikaanse HIPAA-wetgeving beschermt bepaalde elektronische gezondheidsinformatie, maar die geldt niet voor alle deelnemende organisaties. Het hangt af van de instantie, het type data en de functie. OpenAI en Anthropic zeggen wel dat ze geen input en output van hun zakelijke diensten gebruiken voor modeltraining, maar dat zegt niets over hoe de data binnen PULSE wordt beheerd.
"Elke grote technologische transformatie slaagt of faalt op basis van vertrouwen, governance en uitvoering," zegt Dr. David Lakey, voormalig gezondheidscommissaris van Texas. "PULSE ondersteunt instanties in deze inspanning en is specifiek ontworpen voor praktische implementatie."
### Wat betekent dit voor de AI-sector?
Voor professionals in AI-websitebouw en AI-tools is dit een interessante case. Het laat zien hoe belangrijk het is om niet alleen de technologie te leveren, maar ook de randvoorwaarden zoals privacy, beveiliging en menselijke controle goed te regelen. De uitkomsten van PULSE kunnen richtinggevend zijn voor hoe AI in de publieke sector wordt ingezet.
Het programma loopt nog, dus we moeten afwachten hoe de pilots uitpakken. Maar één ding is duidelijk: de samenwerking tussen techgiganten en overheidsinstanties wordt steeds intensiever. En dat brengt zowel kansen als uitdagingen met zich mee.