AI in de fysieke wereld: governance onder druk

Sophie Jansen · 2026-05-26

Autonome AI-systemen verlaten de digitale wereld en komen steeds vaker terecht in magazijnen, bezorgnetwerken en openbare ruimtes. Die ontwikkeling roept de vraag op of de huidige AI-regels wel voldoende zijn voor systemen die in fysieke omgevingen opereren. De meeste bestaande AI-governancekaders richten zich op online schade en modeluitkomsten, zoals vooroordelen, desinformatie en schadelijke content. Maar belichaamde AI-systemen brengen risico's met zich mee in fysieke omgevingen, waar fouten infrastructuur, eigendommen of de veiligheid van mensen kunnen aantasten. ### Singapore pakt de handschoen op De Infocomm Media Development Authority van Singapore publiceerde op 20 mei versie 1.5 van haar Model AI Governance Framework voor Agentic AI. Dit raamwerk biedt richtlijnen voor organisaties die AI-agenten inzetten die kunnen plannen, beslissingen nemen en acties ondernemen in meerdere stappen om door gebruikers gedefinieerde doelen te bereiken. Het raamwerk stelt dat agenten kunnen interageren met tools, externe systemen en andere agenten, inclusief systemen die databases bijwerken, bestanden schrijven, apparaten aansturen of transacties uitvoeren. Het noemt toegangscontroles, monitoring en menselijke goedkeuring als belangrijke governance-maatregelen voor implementatie.  ### AI trekt de fysieke wereld in Tijdens een AI-top in Singapore vorige week stonden discussies over robotica en belichaamde AI in het teken van operationele veiligheidskwesties. Die lijken meer op wat je ziet bij luchtvaart, industriële systemen en kritieke infrastructuur dan bij gewone softwareregulering. Sprekers vroegen zich ook af of autonome systemen veilig en betrouwbaar kunnen opereren in onvoorspelbare, echte omgevingen over langere periodes. Dr. Ya-Qin Zhang, oprichter van het Institute for AI Industry Research aan de Tsinghua Universiteit, zei dat belichaamde AI-systemen de risico's versterken die al bestaan bij autonome software. Fouten kunnen direct gevolgen hebben voor transportsystemen, drones, logistieke netwerken en kritieke infrastructuur. > "Elk risico in het digitale domein wordt versterkt in het fysieke domein, en het fysieke domein heeft fysieke gevolgen." - Dr. Ya-Qin Zhang Hij voegde eraan toe dat voertuigen, drones, slimme netwerken en andere infrastructuur kwetsbaar kunnen worden naarmate AI-systemen dieper in fysieke operaties worden ingebed. ### Monitoring wordt een implementatiekwestie Grab, dat autonome voertuigen en bezorgrobots test in het Punggol-district van Singapore, gaf aan dat implementatie-governance sterk afhankelijk is van simulatie, testen en continue monitoring. "We doen veel simulatie, we doen veel testen op afgesloten en open parcours om ervoor te zorgen dat onze robots betrouwbaar zijn," zei Suthen Thomas Paradatheth, CTO van Grab, tijdens een panel op de top. "Voordat we opschalen naar honderden robots, zorgen we dat we het eerst kraken in simulatie en met een paar robots." Grab wees ook op monitorsystemen die zijn ontworpen om robotprestaties te volgen en onverwachte fouten na implementatie te detecteren. "Er kan een lange staart van problemen opduiken," zei Paradatheth. ### Aanbevelingen voor organisaties Het IMDA-raamwerk adviseert organisaties om agentic AI-use cases te beoordelen op basis van: - Toegang tot data en externe systemen - Autonomie en taakcomplexiteit - Reikwijdte en omkeerbaarheid van agentacties - Betrokkenheid van derden - Algehele systeemcomplexiteit Het raamwerk raadt ook aan om de toegang van agenten tot tools en systemen te beperken, minimale-rechtenpermissies toe te passen en standaard operationele procedures voor agentworkflows te definiëren. Organisaties moeten ook geleidelijke uitrol, continue monitoring en verdere testen na implementatie overwegen. ### Conclusie De verschuiving van AI naar fysieke systemen vraagt om een nieuwe benadering van governance. Eénmalige certificering is niet genoeg; het gaat om doorlopende simulatie, telemetrie en iteratief testen. Voor Nederlandse professionals in AI en media monitoring is het zaak om deze ontwikkelingen scherp in de gaten te houden, want de regels die nu worden geschreven, bepalen straks hoe wij AI in de fysieke wereld kunnen inzetten.