Hoe Google DeepMind AI-misbruik in de biologie wil stoppen

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma aangekondigd dat AI-misbruik in de biologie moet voorkomen en tegelijkertijd de respons op uitbraken moet verbeteren. Het initiatief, dat stil begon, heeft in het afgelopen jaar meer dan vijftien partnerschappen opgebouwd met overheidsinstanties, bioveiligheidsorganisaties en onderzoeksgroepen. Dit is een belangrijke stap, want AI kan zowel helpen bij het ontwikkelen van vaccins als bij het creëren van nieuwe bedreigingen. ### De dubbele opdracht van AI in de biologie Frontier-modellen zoals Gemini hebben een steeds gedetailleerdere kennis van biologie. DeepMind geeft toe dat het combineren van deze modellen met gespecialiseerde biologie-modellen, platforms zoals Antigravity en databases van derden deze capaciteit verder kan verscherpen. Maar dezelfde kennis die een onderzoeker helpt om een vaccin te ontwikkelen, kan in theorie ook een kwaadwillende helpen om gaten in zijn eigen kennis te dichten. DeepMind en Isomorphic noemen dit een dubbele opdracht: de wetenschappelijke vooruitgang mogelijk maken die AI biedt, terwijl de tools uit handen worden gehouden van mensen die ze willen misbruiken. ### De drie pijlers van het programma Het programma rust op drie pijlers: het voorkomen van misbruik, het sneller detecteren van uitbraken en het reageren zodra een uitbraak of aanval plaatsvindt. De meer dan vijftien partnerschappen van het afgelopen jaar raken alle drie de pijlers, hoewel de update beperkte details geeft over welke organisaties betrokken zijn. Enkele genoemde partners zijn Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. DeepMind zegt van plan te zijn om deze relaties de komende zes tot twaalf maanden uit te breiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agenten en jailbreak-mitigaties. ### Hoe Gemini wordt beveiligd zonder legitieme wetenschap te blokkeren Het preventiewerk is gebaseerd op dreigingsmodellen die zijn ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen te maken en welke knelpunten hen momenteel tegenhouden. DeepMind gebruikt een mix van expert-red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand kan helpen deze knelpunten te omzeilen. Post-trainingsmethoden zijn bedoeld om het model te leren schadelijke vragen te weigeren, terwijl overmatige weigering van legitieme wetenschappelijke vragen wordt vermeden. Dit evenwicht is moeilijk te bereiken, niet alleen voor DeepMind, maar voor de hele industrie. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te signaleren, en het bedrijf voert gerichte loganalyse uit om subtielere misbruikpatronen op te sporen die geautomatiseerde filters mogelijk missen. Geen van deze mitigaties wordt als opgelost beschreven. DeepMind ziet ze als een doorlopend proces in plaats van een afgerond systeem. Dit is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingen in hun huidige configuratie. ### Het DNA-synthese screeningprobleem Een van de meer concrete risico's die worden onderzocht, betreft DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningalgoritmen. DeepMind stelt duidelijk dat deze aanpak begint te wankelen, omdat AI nu kan helpen bij het ontwerpen van DNA-sequenties die functioneel vergelijkbaar zijn met een gevaarlijk pathogeen, maar niet nauw genoeg overeenkomen om bestaande screenings te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk. Dit is nog niet klaar, maar het laat zien hoe AI kan worden ingezet om dezelfde technologie die risico's creëert, ook te beheren. ### Wat dit betekent voor de toekomst Voor bedrijven en overheden die overwegen AI-tools zoals Gemini te gebruiken, is het belangrijk om te begrijpen dat de beveiligingen niet perfect zijn. Een classifier die is getraind op bekende jailbreak-patronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in de praktijk opduiken. DeepMind beweert ook niet anders. Het programma is een werk in uitvoering, en dat is precies waarom het zo belangrijk is om op de hoogte te blijven van de ontwikkelingen. Door de samenwerking met instanties zoals het Lawrence Livermore National Laboratory en het UK AI Security Institute, wordt er gewerkt aan een robuustere aanpak. Maar de echte uitdaging ligt in het vinden van een balans tussen veiligheid en innovatie. En dat is iets waar we allemaal bij gebaat zijn.