De kernvraag van agentic AI in de overheid: wat mag een machine eigenlijk beslissen?

·
Luister naar dit artikel~5 min
De kernvraag van agentic AI in de overheid: wat mag een machine eigenlijk beslissen?

De VAE wil binnen twee jaar de helft van overheidsoperaties omzetten naar agentic AI. Maar de grootste uitdaging blijft: wie is verantwoordelijk als een machine een beslissing neemt?

De Verenigde Arabische Emiraten (VAE) lopen al negen jaar voorop met kunstmatige intelligentie. In oktober 2017 publiceerde het land een nationale AI-strategie en dagen later werd Omar Sultan Al Olama op 27-jarige leeftijd de eerste minister van staat voor kunstmatige intelligentie ter wereld. Sindsdien heeft de VAE de digitale identiteit, sovereign cloud en data-delingslagen opgebouwd waar de meeste overheden nog steeds mee bezig zijn. Agentic AI in de overheid is precies waar die voorsprong zich nu moet bewijzen – of niet. Deze maand begon de echte test. Meer dan honderd federale functionarissen woonden een workshop bij om de strategische track van het agentic AI-project van de VAE te lanceren. Dit nationale programma moet binnen twee jaar de helft van de federale overheidsoperaties, -diensten en -taken omzetten naar agentic AI-modellen. Georganiseerd door het Nationaal Comité voor het Agentic AI-project, werden tijdens de sessie implementatieprioriteiten en tijdlijnen vastgesteld. Ook begon men met het bouwen van de kaders die moeten classificeren welke overheidstaken überhaupt aan een agent kunnen worden overgedragen. ### De classificatie is het hele spel Die classificatie-oefening is waar het echt om draait. Rekenkracht en infrastructuur heeft de VAE genoeg, inclusief een AI-gestuurd proactief prestatiesysteem dat maandelijks meer dan 150 miljoen datapunten volgt. Wat geen enkele overheid ter wereld echter heeft gepubliceerd, is een verdedigbare methode om de grens te trekken tussen een taak die een autonoom systeem mag voltooien en een taak die het alleen mag aanbevelen. Huda Al Hashimi, viceminister van Kabinetszaken voor Strategische Zaken, beschreef de workshop als het operationele begin van het uitrollen van AI-modellen binnen de overheid. Het programma werkt via zeven pijlers: strategie en projecten, foresight en strategische intelligentie, beleid, structuren en governance, overheidsperformance, wereldwijde concurrentiekracht en innovatie in overheids werk. Ook bespraken functionarissen prestatie-indicatoren en hoe instanties overlapping in hun AI-implementaties kunnen voorkomen. ### Twee perspectieven op hetzelfde project De workshop werd geleid door een duidelijk uitgangspunt: de mens leidt, AI ondersteunt. Maar bij de aankondiging van het kader zei sjeik Mohammed bin Rashid Al Maktoum dat de VAE "de eerste overheid ter wereld zou zijn die agentic AI-modellen op grote schaal inzet" in alle sectoren en operaties. Hij beschreef systemen die operaties beheren en een onafhankelijke reeks acties uitvoeren zonder menselijke tussenkomst. De oprichtingstaal gaat dus over autonome uitvoering. De implementatietaal gaat over menselijke voorrang. Beide kunnen waar zijn binnen een portfolio van duizenden taken, en de kloof daartussen is precies wat de classificatiekaders moeten overbruggen. Maar totdat die kaders gepubliceerd zijn, blijft de vraag wie verantwoordelijk is voor een beslissing van een agent open. Het tot nu toe vrijgegeven materiaal behandelt pijlers, training, indicatoren en governancestructuren. Het beschrijft niet wat een burger moet doen wanneer een autonoom systeem zijn zaak verkeerd behandelt, of waar de aansprakelijkheid ligt als dat gebeurt. > "De vraag is niet óf agentic AI komt, maar wie er verantwoordelijk is als het misgaat." ### De schaal is het punt Het toezicht ligt bij sjeik Mansour bin Zayed Al Nahyan, met een taskforce onder leiding van Mohammad Al Gergawi, minister van Kabinetszaken. In mei keurde het kabinet het eerste pakket overheidsdiensten goed dat agentic AI-tools gaat toepassen, samen met het grootste trainingsprogramma in de geschiedenis van de VAE-overheid. Dat programma bereidt 80.000 federale medewerkers voor, van ministers tot nieuwe instromers. In dezelfde zitting werden ook een nationale AI-gezondheidszorgbeleid goedgekeurd, evenals kaders die digitale registers als officiële bron van kernoverheidsdata aanwijzen en vereisen dat informatie één keer wordt verzameld en veilig wordt gedeeld tussen instanties. Sindsdien is het tempo bewust gekozen. Een trainingsevenement in Dubai in juni trok meer dan 300 deelnemers van 50 federale instellingen. Dit is geen technische exercitie, maar een bestuurlijke transformatie. De VAE heeft de unieke kans om als eerste overheid ter wereld te laten zien hoe agentic AI op grote schaal werkt – inclusief de onvermijdelijke fouten en de lessen die daaruit komen.