Hoe Google DeepMind AI-misbruik in de biologie wil stoppen (en waarom dat nog niet rond is)

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma gelanceerd om AI-misbruik in de biologie te voorkomen en tegelijkertijd uitbraken sneller te bestrijden. Het gaat om een initiatief dat stilletjes begon, maar in de afgelopen twaalf maanden heeft het al meer dan vijftien partnerschappen opgebouwd met overheden, biosecurity-organisaties en onderzoeksgroepen. Het klinkt als een nobel doel, maar er zit een flinke uitdaging aan vast. Frontier-modellen zoals Gemini hebben een steeds gedetailleerdere kennis van biologie. DeepMind geeft zelf toe dat het combineren van deze modellen met gespecialiseerde biologie-modellen, agents zoals Antigravity, en externe databases die kennis alleen maar scherper maakt. En dat is zowel een zegen als een vloek. ### Het dubbele mandaat: vooruitgang versus veiligheid Dezelfde kennis die een onderzoeker helpt om een vaccin te ontwikkelen, kan in theorie een kwaadwillende helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic noemen dit een dubbel mandaat: aan de ene kant willen ze de wetenschappelijke vooruitgang mogelijk maken die frontier AI belooft, maar aan de andere kant moeten diezelfde tools uit handen blijven van mensen die ze willen misbruiken. Klinkt simpel, maar de praktijk is weerbarstig. Het programma rust op drie pijlers: - Misbruik voorkomen - Uitbraken sneller detecteren - Reageren zodra een uitbraak of aanval plaatsvindt De vijftien partnerschappen raken alle drie deze pijlers, maar de update geeft weinig details over welke organisaties precies betrokken zijn. Een paar namen worden genoemd: Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. DeepMind zegt de komende zes tot twaalf maanden deze relaties te willen uitbreiden, met focus op dreigingsinformatie, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Ook stemt het bedrijf af met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieen trainingsdata, zoals virologie-datasets. ### Gemini beveiligen zonder legitieme wetenschap te blokkeren Het preventiewerk is gebaseerd op dreigingsmodellering. DeepMind probeert te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen te maken en welke bottlenecks hen momenteel tegenhouden. Het bedrijf gebruikt een mix van expert red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand kan helpen om die bottlenecks te omzeilen. Post-training methoden moeten het model leren om schadelijke queries te weigeren, maar zonder overmatige weigering van legitieme wetenschappelijke vragen. Die balans is lastig, niet alleen voor DeepMind, maar voor de hele industrie. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te signaleren, en het bedrijf voert gerichte log-analyse uit om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. Belangrijk: geen van deze mitigaties wordt als opgelost beschreven. DeepMind ziet ze als een doorlopend proces, niet als een afgerond systeem. Dat is cruciaal voor elke onderneming of overheidsinstantie die overweegt om op deze beveiligingen te vertrouwen zoals ze nu zijn geconfigureerd. Een classifier die getraind is op bekende jailbreak-patronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in de praktijk opduiken. DeepMind beweert ook niet anders. ### Het DNA-synthese screening probleem Een van de concretere risico's waar DeepMind naar kijkt, is DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningsalgoritmen. DeepMind stelt onomwonden dat deze aanpak begint te haperen. AI kan nu DNA-sequenties ontwerpen die qua functie lijken op een gevaarlijk pathogeen, maar niet exact overeenkomen met de sequentie, waardoor ze door bestaande screenings heen glippen. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem, SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen aan biologische sequenties wordt gepresenteerd als verkennend werk, niet als een afgeronde oplossing. Het is een mooi voorbeeld van hoe AI zowel het probleem als de oplossing kan zijn, maar we zijn er nog lang niet. ### Wat dit betekent voor de praktijk Voor professionals in AI en biosecurity is dit verhaal relevant omdat het laat zien dat de beveiliging van AI-modellen een continu proces is. Geen enkele tool is waterdicht, en de dreiging evolueert net zo snel als de technologie. Bedrijven en overheden die met deze systemen werken, moeten alert blijven en niet blind vertrouwen op eenmalige oplossingen. De samenwerking tussen DeepMind, Isomorphic Labs en hun partners is een stap in de goede richting, maar het is duidelijk dat we nog aan het begin staan van een lange weg.