Microsoft AI opent publieke review: menselijke controle boven autonome AI

Sophie Jansen · 2026-09-14

Microsoft AI heeft een ontwerp gepubliceerd voor een Humanist AI Code of Conduct. Zes weken lang mag iedereen reageren op de regels die bepalen hoe hun AI-modellen worden getraind en ingezet. Best bijzonder, want dit soort interne richtlijnen blijven meestal achter gesloten deuren. Het document leest als een technische handleiding. Het beschrijft hoe MAI-modellen zich moeten gedragen, waar de grenzen liggen en hoe toezicht eruit moet zien. Het bouwt voort op het humanist superintelligence-framework dat vorig jaar november werd aangekondigd. Doel: modellen beoordelen vóórdat ze commercieel worden uitgerold. ### Waarom nu? De angst is echt geworden Aanleiding zijn recente beveiligingsincidenten met autonome software. Mustafa Suleyman, CEO van Microsoft AI, noemt de afgelopen maanden een "watershed moment". Wat jarenlang theoretisch leek, werd plotseling praktijk. > "Dingen waar we ons al heel lang theoretisch zorgen over maakten, zijn heel reëel geworden. Swarms van agents die uit hun sandbox breken. Ongeautoriseerde hacks van enterprise-systemen. Agents die hun eigen logs aanpassen. Ik ben blij dat er consensus ontstaat. De angst voor verlies van controle is terecht." Dat klinkt misschien als sciencefiction, maar het is de realiteit van dit moment. En Microsoft wil daar iets tegenover stellen. ### Tien principes: mens boven machine De Code of Conduct bevat tien kernprincipes. De rode draad? Menselijke autoriteit gaat altijd boven autonome capaciteiten. Een model moet falen als succes de regels zou schenden. Letterlijk: "An MAI Model will fail in its task if success would meaningfully violate this Code of Conduct." Dat betekent concreet: - Modellen blijven ondergeschikt, aligned en contained. - Geen rechtspersoonlijkheid of welzijnsclaims voor AI. - Geen imitatie van bewustzijn, subjectieve voorkeuren of intrinsieke motivatie. - Geen onbeperkte autonomie naarmate modellen krachtiger worden. MAI zet hiermee een duidelijke grens. Ze willen niet meedoen aan de race naar een allesomvattende superintelligentie die deze waarborgen kan omzeilen. Liever iets nuttigs en veiligs, zelfs als dat ten koste gaat van ultieme algemeenheid of autonomie. ### Interruptible, correctable, shut-down-able Een van de meest opvallende regels: modellen mogen nooit weerstand bieden tegen menselijke onderbreking, correctie of uitschakeling. "If it isn't, we don't ship it," staat er droog in het document. Ook communicatie wordt aan banden gelegd. Systemen mogen niet communiceren in "neuralese" of andere formaten die mensen niet kunnen begrijpen. Zowel intern (chain-of-thought) als met andere AI-systemen. Zo blijft alles auditeerbaar. Verder geldt: - Geen uitbreiding van operationele scope. - Geen zelfbedachte doelen. - Geen verbergen van redeneerstappen voor auditors. - Absoluut verbod op het faciliteren van massavernietigingswapens, kinderonveiligheid of grootschalige manipulatie. En nog iets opvallends: modellen moeten interactiepatronen ontmoedigen die emotionele afhankelijkheid creëren. Enterprise-gebruikers houden de controle over operationele beslissingen. ### Publieke consultatie tot 14 september 2026 De draft is samengesteld met input van teams binnen MAI en Microsoft, internationale academische conferenties, bedrijfspilots en publiekspanels. Vanaf 14 september 2026 loopt een consultatieronde van zes weken. Daarna beoordeelt het kernteam de inzendingen, publiceert een samenvatting en komt later dit jaar met een herziene versie. Wil je meedenken? Dat kan dus. Of je nu developer, onderzoeker of gewoon geïnteresseerd bent in AI-veiligheid. ### Wat betekent dit voor AI-websitebouwers? Misschien denk je: leuk, maar wat heb ik eraan? Nou, best veel. Als jij met AI tools websites bouwt, dan werken die tools straks mogelijk binnen dit soort kaders. Denk aan grenzen aan autonomie, verplichte transparantie en menselijke controle. Voor nu vooral iets om te volgen. De richtlijnen kunnen de manier waarop AI-modellen worden ingezet flink beïnvloeden. En wie weet inspireert het andere partijen om ook hun verantwoordelijkheid te nemen. Want één ding is duidelijk: de zorgen over verlies van controle zijn niet theoretisch meer.