AI-agent governance: toezichthouder waarschuwt voor hiaten

Sophie Jansen · 2026-04-30

De Australische financiële toezichthouder APRA heeft een duidelijke waarschuwing afgegeven: de governance en borging van AI-agenten bij financiële instellingen schiet tekort. Dit terwijl banken en pensioenfondsen AI steeds vaker inzetten, zowel intern als voor klantcontact. Tijd voor een kritische blik, want de risico's zijn groter dan veel bestuurders denken. ### Wat APRA ontdekte In een gericht onderzoek eind 2025 keek APRA naar hoe grote gereguleerde entiteiten AI gebruiken. De conclusie? AI wordt overal ingezet, maar de volwassenheid van risicomanagement en operationele veerkracht varieert enorm. Besturen tonen veel enthousiasme voor AI vanwege productiviteitswinst en betere klantervaring, maar de beheersing van AI-risico's blijft achter. De toezichthouder maakt zich ook zorgen over de afhankelijkheid van leverancierspresentaties en samenvattingen. Besturen geven niet altijd genoeg aandacht aan risico's zoals onvoorspelbaar modelgedrag en de impact van AI-storingen op kritieke processen. ### Wat besturen moeten doen APRA adviseert besturen om AI beter te begrijpen, zodat ze strategie en toezicht coherent kunnen vormgeven. De AI-strategie moet aansluiten bij de risicobereidheid van de instelling. Denk aan duidelijke monitoringsprocedures en gedefinieerde stappen bij fouten. - **Risicobeheer**: Behandel AI-risico's niet als gewone IT-risico's. AI-modellen vertonen uniek gedrag en bias. - **Menselijke betrokkenheid**: Bij risicovolle beslissingen is menselijk toezicht essentieel. - **Inventarisatie**: Houd een overzicht van alle AI-tools en wijs per AI-instantie een verantwoordelijke aan. ### Gebruik van AI in de praktijk Gereguleerde entiteiten experimenteren met AI in software engineering, claimbeoordeling en hypotheekverwerking. Ook fraudebestrijding, scamdetectie en klantinteractie staan hoog op de lijst. Maar de risico's worden vaak onderschat. > "Sommige instellingen behandelen AI-risico op dezelfde manier als die van andere technologieën, maar dat verklaart niet het gedrag en de bias van modellen." – APRA-rapport ### Cybersecurity en identiteitsbeheer AI-adoptie verandert het dreigingslandschap. Nieuwe aanvalsvectoren zoals prompt injectie en onveilige integraties duiken op. Identiteits- en toegangsbeheer is in sommige gevallen niet aangepast aan niet-menselijke elementen zoals AI-agenten. De toename van AI-ondersteunde softwareontwikkeling zet change- en releaseprocessen onder druk. APRA roept op tot strikte controles op agentische en autonome workflows. Denk aan privileged access management, configuratiebeheer en patching. Ook beveiligingstests van AI-gegenereerde code zijn een must. ### Afhankelijkheid van leveranciers Sommige instellingen zijn afhankelijk van één leverancier voor meerdere AI-toepassingen. Slechts een paar hebben een exitplan of alternatieve strategie. APRA waarschuwt dat AI ook aanwezig kan zijn in upstream-afhankelijkheden, waar entiteiten zich niet altijd bewust van zijn. ### Nieuwe standaarden voor authenticatie Ook de FIDO Alliance pakt de uitdaging aan. De werkgroep Agentic Authentication Technical Working Group ontwikkelt specificaties voor door AI geïnitieerde transacties. Bestaande authenticatiemodellen zijn ontworpen voor menselijke interactie, niet voor gedelegeerde acties door software. Dienstverleners moeten kunnen verifiëren wie of wat acties autoriseert en onder welke voorwaarden. ### Conclusie De boodschap van APRA is helder: AI biedt kansen, maar de governance moet op orde. Besturen moeten actief aan de slag met risicobeheer, identiteitscontroles en leveranciersafhankelijkheid. Alleen dan kan AI veilig en verantwoord worden ingezet.