Hoe Google DeepMind AI-misbruik in de biologie wil stoppen (en waarom dat nog niet is opgelost)

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilientieprogramma gelanceerd om AI-misbruik in de biologie te beperken en tegelijkertijd de respons op uitbraken te versnellen. Het initiatief, dat stil begon, heeft in de afgelopen 12 maanden meer dan 15 partnerschappen opgebouwd met overheidsinstanties, biobeveiligingsorganisaties en onderzoeksgroepen. Maar hier zit een lastig probleem aan vast. Frontier-modellen zoals Gemini hebben een steeds gedetailleerder begrip van biologie. DeepMind geeft toe dat het combineren van deze systemen met gespecialiseerde biologische modellen, agents zoals het Antigravity-platform en databases van derden die capaciteit alleen maar verder verscherpt. ### De dubbele opdracht: vooruitgang mogelijk maken, misbruik voorkomen Dezelfde kennis die een onderzoeker helpt bij het in kaart brengen van een vaccindoelwit, kan in principe een kwaadwillende helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic noemen dit een dubbele opdracht: de wetenschappelijke vooruitgang mogelijk maken die frontier AI mogelijk maakt, terwijl diezelfde tools uit handen worden gehouden van mensen die ze willen misbruiken. Het programma rust op drie pijlers: misbruik voorkomen, uitbraken sneller detecteren en reageren zodra een uitbraak of aanval gaande is. De meer dan 15 partnerschappen die in het afgelopen jaar zijn opgebouwd, raken alle drie, hoewel de update beperkte details geeft over welke organisaties betrokken zijn. Enkele bekende namen zijn Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. ### Wat er de komende maanden gaat gebeuren DeepMind zegt van plan te zijn deze relaties de komende zes tot twaalf maanden uit te breiden. De aandacht gaat dan uit naar dreigingsinformatie, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Ook coördineert het bedrijf met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën trainingsdata, met virologische datasets als voorbeeld. ### Gemini beveiligen zonder legitieme wetenschap te blokkeren Het preventiewerk rust op dreigingsmodellering die is ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen te maken en welke knelpunten hen momenteel tegenhouden. DeepMind gebruikt een mix van expert-red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand zou kunnen helpen die knelpunten te overwinnen. Post-trainingmethoden zijn bedoeld om het model te leren schadelijke vragen te weigeren, terwijl overmatige weigering van legitieme wetenschappelijke vragen wordt vermeden. Dat is een balans die in de hele industrie moeilijk is gebleken, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in real-time te markeren, en het bedrijf zegt gerichte loganalyse uit te voeren om subtielere misbruikpatronen op te sporen die geautomatiseerde filters mogelijk missen. Geen van deze mitigaties wordt beschreven als opgelost. DeepMind beschouwt ze als een doorlopend proces in plaats van een afgerond systeem. Dat is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingsmaatregelen in hun huidige configuratie. Een classifier die is afgestemd op bekende jailbreakpatronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in de praktijk opduiken. Het bedrijf beweert ook niet anders. ### Het DNA-synthese screeningprobleem Een van de concretere risico's die worden onderzocht, betreft DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten met bekende schadelijke pathogenen en toxines, in combinatie met screeningsalgoritmen. DeepMind stelt duidelijk dat deze aanpak begint te haperen, omdat AI nu kan helpen bij het ontwerpen van DNA-sequenties met een vergelijkbare functie als een gevaarlijk pathogeen, zonder dat de sequentie nauw genoeg overeenkomt om bestaande schermen te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem, SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk, nog niet als een kant-en-klare oplossing. ### Wat dit betekent voor de toekomst Het bioresilientieprogramma van DeepMind laat zien hoe complex het is om AI-veiligheid in de biologie te waarborgen. Het is een evenwichtsoefening tussen het mogelijk maken van baanbrekend onderzoek en het voorkomen dat dezelfde technologie wordt misbruikt. De komende maanden zullen cruciaal zijn om te zien of deze aanpak werkt en of de balans kan worden gevonden.