Hoe Google DeepMind AI-misbruik in de biologie wil stoppen (en wat dat voor u betekent)

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma aangekondigd om AI-misbruik in de biologie te voorkomen en tegelijkertijd de reactie op uitbraken te versnellen. De twee organisaties publiceerden een update over een initiatief dat stil begon en in de afgelopen 12 maanden is uitgegroeid tot meer dan 15 partnerschappen met overheidsinstanties, biosecurity-organisaties en onderzoeksgroepen. De aankondiging komt met een specifiek framing-probleem. Frontier-modellen zoals Gemini hebben een steeds gedetailleerdere kennis van biologie, en DeepMind erkent dat het combineren van deze systemen met gespecialiseerde biologie-modellen, agents zoals het Antigravity-platform en databases van derden die capaciteit alleen maar zal verscherpen. Maar dezelfde kennis die een onderzoeker helpt een vaccindoelwit in kaart te brengen, kan in principe een kwaadwillende helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic beschrijven dit als een dubbele opdracht: de wetenschappelijke vooruitgang mogelijk maken die frontier AI mogelijk maakt, terwijl diezelfde tools uit handen worden gehouden van mensen die ze zouden misbruiken. ### De drie pijlers van het programma Het programma rust op drie pijlers, volgens de bedrijven: het voorkomen van misbruik, het sneller detecteren van uitbraken en het reageren zodra een uitbraak of aanval gaande is. De meer dan 15 partnerschappen van het afgelopen jaar raken alle drie, hoewel de update beperkte details geeft over welke organisaties betrokken zijn, behalve een handvol genoemde samenwerkers, waaronder Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. DeepMind zegt van plan te zijn deze relaties de komende zes tot twaalf maanden uit te breiden, met aandacht voor threat intelligence, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Het coördineert ook met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën trainingsdata, waarbij virologie-datasets als voorbeeld worden gegeven. ### Gemini beveiligen zonder legitieme wetenschap te blokkeren Het preventiewerk rust op threat modelling dat is ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind zegt dat het een mix van expert red-teaming en gerandomiseerde gecontroleerde onderzoeken gebruikt om te beoordelen of Gemini iemand zou kunnen helpen die knelpunten te omzeilen. Post-training methoden zijn bedoeld om het model te leren schadelijke queries te weigeren, terwijl wordt vermeden wat het bedrijf over-weigering van legitieme wetenschapsvragen noemt. Een balans die in de hele industrie moeilijk is gebleken, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in real-time te signaleren, en het bedrijf zegt gerichte log-analyse uit te voeren om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. Geen van deze mitigaties wordt beschreven als opgelost. DeepMind presenteert ze als een doorlopend proces in plaats van een afgerond systeem. Dat is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingen zoals ze momenteel zijn geconfigureerd. > "Een classifier die is afgestemd op bekende jailbreak-patronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in live gebruik opduiken." - DeepMind ### Het DNA-synthese screening probleem Een van de concretere risico's die worden onderzocht, betreft DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, gekoppeld aan screening-algoritmen. DeepMind stelt duidelijk dat deze aanpak begint te haperen, omdat AI nu kan helpen bij het ontwerpen van DNA-sequenties met een vergelijkbare functie als een gevaarlijk pathogeen, zonder de sequentie ervan voldoende te benaderen om bestaande screens te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem, SynthID, waarvan het bedrijf zegt dat het een industrie-standaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk, niet als een kant-en-klare oplossing. ### Wat dit betekent voor Nederlandse AI-professionals Voor professionals in Nederland die zich bezighouden met AI-website bouwen en AI-websitebouwers, is dit verhaal relevant omdat het laat zien hoe geavanceerde AI-systemen zoals Gemini niet alleen krachtig zijn, maar ook risico's met zich meebrengen die zorgvuldig beheer vereisen. Of u nu een AI-website bouwt voor biotech-toepassingen of voor commerciële doeleinden, de balans tussen innovatie en veiligheid is cruciaal. - **Preventie**: Investeer in threat modelling en red-teaming om misbruik te voorkomen. - **Detectie**: Gebruik geavanceerde monitorsystemen om afwijkingen in real-time te signaleren. - **Respons**: Ontwikkel protocollen voor snelle actie bij incidenten. DeepMind benadrukt dat geen van deze maatregelen statisch is. Het is een doorlopend proces van aanpassing en verbetering. Voor Nederlandse bedrijven die AI-websites bouwen, betekent dit dat beveiliging geen eenmalige taak is, maar een integraal onderdeel van de ontwikkelingscyclus. ### Conclusie Het bioresilience-programma van Google DeepMind en Isomorphic Labs is een belangrijke stap in het beheren van de risico's van AI in de biologie. Door samen te werken met overheden, biosecurity-organisaties en onderzoeksgroepen, proberen ze een evenwicht te vinden tussen vooruitgang en veiligheid. Voor AI-professionals in Nederland biedt dit inzichten in hoe geavanceerde AI-systemen verantwoord kunnen worden ingezet, of het nu gaat om het bouwen van een AI-website of het ontwikkelen van nieuwe AI-toepassingen.