Hoe Google DeepMind AI-misbruik in de biologie wil stoppen (en waarom dat nog niet is opgelost)

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilientieprogramma gelanceerd om AI-misbruik in de biologie te voorkomen en tegelijkertijd uitbraken sneller te bestrijden. Het klinkt als een nobel doel, maar de uitdagingen zijn enorm. In de afgelopen twaalf maanden hebben de twee organisaties stilzwijgend meer dan vijftien partnerschappen opgebouwd met overheden, biosecurity-organisaties en onderzoeksgroepen. Nu komen ze met een update naar buiten, en die laat zien hoe complex deze balans is. ### Het dubbele mandaat van AI in de biologie Frontier-modellen zoals Gemini begrijpen biologie steeds beter. DeepMind geeft zelf toe dat het koppelen van deze modellen aan gespecialiseerde biologie-modellen, agents zoals Antigravity, en externe databases die kennis nog verder verscherpt. Maar hier zit het probleem: dezelfde kennis die een onderzoeker helpt om een vaccindoelwit in kaart te brengen, kan in theorie ook een kwaadwillende helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic noemen dit een "dubbel mandaat": de wetenschappelijke vooruitgang mogelijk maken die AI biedt, terwijl je diezelfde tools uit handen houdt van mensen die ze willen misbruiken. Het programma rust op drie pijlers: - Misbruik voorkomen - Uitbraken sneller detecteren - Reageren zodra een uitbraak of aanval gaande is ### Wie werkt er mee? Van de vijftien partnerschappen zijn er maar een paar met naam genoemd, waaronder Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. DeepMind zegt de komende zes tot twaalf maanden meer relaties te willen opbouwen, met focus op dreigingsinformatie, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Ook stemt het bedrijf af met het Frontier Model Forum over lastige kwesties zoals hoe om te gaan met risicovolle categorieën trainingsdata – virologiedatasets worden als voorbeeld genoemd. ### Gemini afschermen zonder wetenschap te blokkeren Het preventiewerk draait om dreigingsmodellering: wie zijn de actoren die het meest waarschijnlijk misbruik zullen proberen, en welke knelpunten stoppen hen momenteel? DeepMind gebruikt een mix van expert-red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand kan helpen die knelpunten te omzeilen. Post-trainingsmethoden moeten het model leren om schadelijke vragen te weigeren, zonder te veel legitieme wetenschappelijke vragen af te wijzen – een balans die de hele industrie lastig vindt, niet alleen DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te signaleren. Daarnaast voert het bedrijf gerichte loganalyse uit om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. Geen van deze maatregelen wordt als opgelost beschreven. DeepMind ziet ze als een doorlopend proces, niet als een afgerond systeem. Dat is belangrijk voor elke onderneming of overheidsinstantie die overweegt op de beveiliging te vertrouwen zoals die nu is geconfigureerd. Een classifier die is getraind op bekende jailbreakpatronen in een gecontroleerde evaluatie, garandeert niet dezelfde prestaties tegen nieuwe aanvalsmethoden die in de praktijk opduiken. Het bedrijf beweert ook niet anders. ### Het DNA-synthese-screeningsprobleem Een van de meest concrete risico's is DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningsalgoritmen. DeepMind stelt ronduit dat deze aanpak begint te haperen. AI kan nu DNA-sequenties ontwerpen die qua functie lijken op een gevaarlijk pathogeen, maar niet precies genoeg overeenkomen om de bestaande screens te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan voor biologische sequenties wordt gepresenteerd als verkennend werk, niet als een kant-en-klare oplossing. Het laat zien dat zelfs de meest geavanceerde AI-bedrijven nog aan het begin staan van het begrijpen hoe ze hun eigen technologie veilig kunnen houden in de biologie.