Bank of England herziet AI-regels voor autonome financiƫle AI

Ā·
Luister naar dit artikel~5 min
Bank of England herziet AI-regels voor autonome financiƫle AI

De Bank of England herziet AI-regels voor agentische AI in financiƫn. Ontdek waarom huidige kaders niet volstaan en wat dit betekent voor cyberweerbaarheid en adoptie in de sector.

De Bank of England onderzoekt of bestaande regels wel geschikt zijn voor het gebruik van agentische AI in de financiële sector. Denk aan betalingen, handel, cybersecurity en operationele processen. Het is een relevante ontwikkeling voor iedereen die zich bezighoudt met AI website bouwen en de beste AI website bouwers, omdat de impact van deze technologie verder reikt dan alleen financiën. ### Waarom de huidige regels niet volstaan Sarah Breeden, vice-gouverneur van de Bank of England, gaf aan dat de bestaande regelgevingskaders simpelweg niet zijn ontworpen voor AI-systemen die zelfstandig kunnen handelen. Ze sprak hierover tijdens het ECB Forum over centrale banken in Portugal. Haar boodschap was duidelijk: vertrouwen op menselijk toezicht voor elke actie van deze systemen is niet praktisch. De huidige kaders zijn niet gebouwd om autonome agenten in betalingen, handel en operationele functies te omvatten. Dat is een groot probleem, want deze systemen worden steeds slimmer. Ze kunnen taken uitvoeren zonder dat iemand er elke seconde naar kijkt. ### Agentische AI in financiële werkstromen Agentische AI verwijst naar systemen die zelf beslissingen kunnen nemen en taken onafhankelijk kunnen uitvoeren. In de financiële wereld worden ze al gebruikt voor productaanbevelingen, operationele werkstromen en handelsgerelateerde taken. Het verschil met traditionele geautomatiseerde handelstools? Die werken met vaste regels. Agentische systemen daarentegen kunnen doelen nastreven en beslissingen nemen met minder direct menselijk toezicht. Breeden waarschuwde dat deze systemen op vergelijkbare manieren kunnen handelen als ze zijn getraind op dezelfde data of ontworpen rond dezelfde doelen. Dat klinkt misschien abstract, maar het heeft grote gevolgen. Stel je voor: meerdere AI-systemen die allemaal dezelfde marktdata gebruiken en daardoor identieke beslissingen nemen. Dat kan leiden tot onverwachte marktschommelingen. Recente ontwikkelingen in AI-modellen voor het identificeren van cyberkwetsbaarheden laten een flinke sprong in capaciteit zien. Agentische AI-systemen kunnen nu ketens van acties op schaal en snelheid aan elkaar rijgen. Dat is indrukwekkend, maar ook zorgwekkend. ### Snelle adoptie in de sector Een rapport van het Cambridge Centre for Alternative Finance uit 2026 laat zien dat 81% van de ondervraagde financiële dienstverleners AI op een of ander niveau adopteert. Nog opvallender: 52% van de respondenten is al actief bezig met agentische AI. Het meeste gebruik blijft voorlopig gericht op interne functies zoals procesautomatisering, datavisualisatie, software-engineering en kennismanagement. In de handel blijft het gebruik vooral beperkt tot operationele taken met een laag risico. ### Cyberweerbaarheid als grootste zorg Breeden noemde cyberweerbaarheid een van de grootste zorgen voor financiële stabiliteit rond agentische AI. De technologie heeft een "step change" doorgemaakt in cybercapaciteit. Toezichthouders moeten daarom kijken naar risico's in het hele financiële systeem, niet alleen bij individuele bedrijven. AI-tools kunnen cyberverdediging versterken wanneer ze door beveiligingsteams worden gebruikt. Maar het directe risico is dat dezelfde tools, in handen van kwaadwillenden, de kans op aanvallen vergroten die de financiële stabiliteit kunnen schaden. Open-source modellen lopen mogelijk slechts vier tot acht maanden achter op de meest geavanceerde gesloten modellen. Dat geeft autoriteiten maar beperkte troost, ondanks beperkingen op de release van sommige geavanceerde modellen. ### Wat het IMF zegt Het Internationaal Monetair Fonds (IMF) heeft gewaarschuwd dat AI-gerelateerd cyberrisico als een financieel stabiliteitsprobleem moet worden behandeld. Aanvallen kunnen snel opschalen, zich verspreiden over sectoren die digitale infrastructuur delen, en bredere verstoring veroorzaken als meerdere instellingen tegelijk worden getroffen. Breeden stelde dat autoriteiten meer gewicht moeten toekennen aan gelijktijdige verstoring bij meerdere bedrijven. Ze moeten de waarschijnlijke impact stress-testen voordat zulke gebeurtenissen plaatsvinden. Herstelplanning moet ook rekening houden met massale verstoring, niet alleen met geïsoleerde uitval. ### Wat de Bank of England overweegt De Bank of England denkt na over strengere herstelvereisten voor kernsystemen. Een optie is om de ene bank de basisfuncties van een andere bank te laten overnemen tijdens een storing of uitval. Andere opties zijn regelingen die kritieke diensten laten doorgaan als de kernsystemen van een bedrijf zijn aangetast. Breeden vroeg zich ook af of belangrijke bedrijven aparte failover-systemen moeten hebben of de mogelijkheid om gecompromitteerde kernsystemen snel te herbouwen. Tobias Adrian, financieel adviseur en directeur van de kapitaalmarkt afdeling van het IMF, bevestigde dat AI serieuze risico's vormt voor cyberweerbaarheid. Het IMF heeft apart gewaarschuwd dat gedeelde software, clouddiensten, betalingsnetwerken en data kwetsbaarheden creëren. Dit alles onderstreept waarom het belangrijk is om na te denken over AI website bouwen en de beste AI website bouwers, niet alleen voor marketingdoeleinden, maar ook voor veilige en robuuste implementatie. De lessen uit de financiële sector zijn relevant voor elke organisatie die AI serieus neemt.