Hoe Google DeepMind de dubbele rol van AI in biologie wil temmen

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma aangekondigd dat zowel AI-misbruik in de biologie moet tegengaan als de respons op uitbraken moet versnellen. Het is een lastige evenwichtsoefening: dezelfde technologie die een onderzoeker helpt een vaccin te ontwerpen, kan in verkeerde handen gevaarlijke toepassingen krijgen. De twee organisaties publiceerden een update over een initiatief dat stil begon, maar in het afgelopen jaar meer dan 15 partnerschappen heeft opgebouwd met overheidsinstanties, biosecurity-organisaties en onderzoeksgroepen. Denk aan samenwerkingen met Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. ### De kern van het probleem: een dubbele opdracht Frontier-modellen zoals Gemini hebben een steeds gedetailleerdere kennis van biologie. DeepMind erkent dat het combineren van deze modellen met gespecialiseerde biologie-modellen, agents zoals het Antigravity-platform en databases van derden die capaciteit alleen maar scherper maakt. Maar diezelfde kennis die een onderzoeker helpt een vaccindoelwit in kaart te brengen, kan in theorie een dreigingsactor helpen gaten in zijn eigen begrip te dichten. DeepMind en Isomorphic beschrijven dit als een dubbele opdracht: de wetenschappelijke vooruitgang mogelijk maken die frontier AI mogelijk maakt, terwijl dezelfde tools uit handen worden gehouden van mensen die ze willen misbruiken. ### De drie pijlers van het programma Het programma rust op drie pijlers, volgens de bedrijven: - **Voorkomen van misbruik**: door dreigingsmodellen te ontwikkelen die identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. - **Sneller detecteren van uitbraken**: door AI in te zetten om patronen te herkennen die op een nieuwe uitbraak wijzen. - **Reageren zodra een uitbraak of aanval gaande is**: door tools te bieden voor snelle respons. DeepMind zegt de komende zes tot twaalf maanden deze relaties te willen uitbreiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Het coördineert ook met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën trainingsdata, waarbij virologie-datasets als voorbeeld worden gegeven. ### Gemini beveiligen zonder legitieme wetenschap te blokkeren Het preventiewerk rust op dreigingsmodellering die is ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind zegt dat het een mix van expert red-teaming en gerandomiseerde gecontroleerde proeven gebruikt om te beoordelen of Gemini iemand kan helpen die knelpunten te omzeilen. Post-training-methoden zijn bedoeld om het model te leren schadelijke queries te weigeren, terwijl over-weigering van legitieme wetenschapsvragen wordt vermeden. Dat evenwicht is lastig gebleken in de hele industrie, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te signaleren, en het bedrijf voert gerichte loganalyse uit om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. Geen van deze maatregelen wordt als opgelost beschreven. DeepMind presenteert ze als een doorlopend proces in plaats van een afgerond systeem. Dat is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de huidige beveiligingsconfiguratie. Een classifier die is afgestemd op bekende jailbreak-patronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in de praktijk opduiken. ### Het DNA-synthese screeningprobleem Een van de concretere risico's die worden onderzocht, betreft DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen orders momenteel tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningalgoritmen. DeepMind stelt duidelijk dat deze aanpak begint te wankelen, omdat AI nu kan helpen DNA-sequenties te ontwerpen met vergelijkbare functie als een gevaarlijk pathogeen, zonder de sequentie voldoende te laten overeenkomen om bestaande schermen te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk, niet als een afgeronde oplossing. Het laat zien hoe complex het is om AI-veiligheid in de biologie te waarborgen, terwijl de wetenschap niet wordt belemmerd. ### Wat dit betekent voor de toekomst DeepMind maakt duidelijk dat het nog niet klaar is. De komende maanden zullen nieuwe partnerschappen en evaluatiemethoden worden ontwikkeld, met een focus op dreigingsinformatie en jailbreak-mitigaties. Het is een race tegen de klok: AI ontwikkelt zich razendsnel, en de beveiligingsmaatregelen moeten gelijke tred houden. Voor nu is het programma een belangrijke stap, maar een die nog veel werk vergt.