Hoe Google DeepMind AI-misbruik in de biologie wil voorkomen (en waarom dat nog niet perfect is)

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma aangekondigd om AI-misbruik in de biologie te beteugelen en tegelijkertijd de hulpverlening bij uitbraken te ondersteunen. Het klinkt als iets uit een sciencefictionfilm, maar het is heel echt en speelt zich nu af. De twee organisaties publiceerden een update over een gezamenlijk initiatief dat stilletjes begon en in de afgelopen 12 maanden is uitgegroeid tot meer dan 15 partnerschappen met overheidsinstanties, biobeveiligingsorganisaties en onderzoeksgroepen. Dat is indrukwekkend, maar er zit een addertje onder het gras. ### Het dubbele mandaat: vooruitgang versus veiligheid Het probleem is namelijk dat grensverleggende modellen zoals Gemini een steeds gedetailleerder begrip van biologie krijgen. DeepMind geeft zelf toe dat het combineren van deze systemen met gespecialiseerde biologische modellen, agents zoals het Antigravity-platform, en databases van derden die capaciteit alleen maar verder verscherpt. Klinkt geweldig voor onderzoek, toch? Maar hier zit de angel: dezelfde kennis die een onderzoeker helpt om een vaccindoelwit in kaart te brengen, kan in principe ook een kwaadwillende helpen om gaten in hun eigen kennis te dichten. DeepMind en Isomorphic noemen dit een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die AI biedt, terwijl diezelfde tools uit handen blijven van mensen die ze willen misbruiken. ### De drie pijlers van het programma Volgens de bedrijven rust het programma op drie pijlers: - **Voorkomen van misbruik** – door te analyseren wie het meeste risico loopt om AI te misbruiken en welke barrières hen momenteel tegenhouden. - **Sneller detecteren van uitbraken** – door AI in te zetten om patronen te herkennen die wij mensen missen. - **Reageren zodra een uitbraak of aanval plaatsvindt** – met snelle en gerichte acties. De meer dan 15 partnerschappen die in het afgelopen jaar zijn opgebouwd, raken alle drie de pijlers. Toch geeft de update beperkt detail over welke organisaties precies betrokken zijn, afgezien van een handvol genoemde samenwerkers, waaronder Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. ### Gemini beveiligen zonder legitieme wetenschap te blokkeren Het preventiewerk draait om dreigingsmodellen die zijn ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen te maken en welke knelpunten hen momenteel tegenhouden. DeepMind zegt dat het een mix van expert red-teaming en gerandomiseerde gecontroleerde onderzoeken gebruikt om te beoordelen of Gemini iemand zou kunnen helpen om die knelpunten te omzeilen. Post-training methoden zijn bedoeld om het model te leren schadelijke vragen te weigeren, terwijl overmatige weigering van legitieme wetenschappelijke vragen wordt vermeden. Dat is een balans die in de hele industrie moeilijk is gebleken, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te markeren, en het bedrijf zegt gerichte loganalyse uit te voeren om subtielere misbruikpatronen op te sporen die geautomatiseerde filters mogelijk missen. > "Geen van deze mitigerende maatregelen wordt als opgelost beschreven. DeepMind presenteert ze als een doorlopend proces in plaats van een afgerond systeem." ### Het DNA-synthese screening probleem Een van de concretere risico's die worden onderzocht, heeft betrekking op DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, gekoppeld aan screeningsalgoritmen. DeepMind stelt ronduit dat deze aanpak begint te haperen, omdat AI nu kan helpen bij het ontwerpen van DNA-sequenties met vergelijkbare functie als een gevaarlijk pathogeen, zonder de sequentie voldoende te matchen om bestaande schermen te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem, SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk, nog niet klaar voor de markt. ### Wat dit betekent voor de toekomst DeepMind zegt dat het van plan is om deze relaties de komende zes tot twaalf maanden uit te breiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Het coördineert ook met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën trainingsdata, waarbij virologische datasets als voorbeeld worden gegeven. Het is duidelijk dat er geen eenvoudige oplossingen zijn. Maar dat DeepMind en Isomorphic Labs dit bespreekbaar maken en actief werken aan oplossingen, is een belangrijke stap voor de veiligheid van AI in de biologie.