DeepMind's bioresilience plan: AI als wapen tegen biologische dreigingen

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma gelanceerd dat AI-misbruik in de biologie moet tegengaan en tegelijkertijd helpt bij het reageren op uitbraken. Het is een delicate balans: dezelfde technologie die onderzoekers helpt om vaccins te ontwikkelen, kan ook worden misbruikt door kwaadwillenden. In dit artikel duiken we in de details van dit initiatief. ### Wat is bioresilience en waarom is het belangrijk? Bioresilience draait om het vermogen om biologische dreigingen, zoals pandemieën of bioterrorisme, te weerstaan en er snel op te reageren. DeepMind en Isomorphic Labs hebben de afgelopen 12 maanden meer dan 15 partnerschappen opgebouwd met overheidsinstanties, biosecurity-organisaties en onderzoeksgroepen. Denk aan samenwerkingen met het Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. Deze partnerschappen zijn de ruggengraat van het programma. ### Het dubbele mandaat van AI in de biologie Frontmodellen zoals Gemini hebben een steeds gedetailleerder begrip van biologie. DeepMind erkent dat het combineren van deze modellen met gespecialiseerde biologie-modellen en platforms zoals Antigravity de mogelijkheden verder verscherpt. Maar hier zit het dilemma: dezelfde kennis die een onderzoeker helpt om een vaccindoelwit in kaart te brengen, kan een dreigingsactor helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic omschrijven dit als een dubbel mandaat: wetenschappelijke vooruitgang mogelijk maken, terwijl de tools uit handen van misbruikers worden gehouden. ### De drie pijlers van het programma Het programma rust op drie pijlers, volgens de bedrijven: - **Voorkomen van misbruik**: door middel van threat modelling en red-teaming. - **Sneller detecteren van uitbraken**: met AI-gestuurde analyses. - **Reageren op uitbraken of aanvallen**: zodra ze plaatsvinden. De partnerschappen raken alle drie de pijlers, maar de update geeft beperkte details over welke organisaties betrokken zijn, behalve een handvol genoemde namen. DeepMind zegt de komende zes tot twaalf maanden deze relaties te willen uitbreiden, met aandacht voor threat intelligence, evaluatiemethoden voor AI-agenten en jailbreak-mitigaties. Ook coördineert het met het Frontier Model Forum over hoe om te gaan met risicovollere categorieën trainingsdata, zoals virologiedatasets. ### Gemini beveiligen zonder legitieme wetenschap te blokkeren Het preventiewerk is gebaseerd op threat modelling dat identificeert welke actoren het meest geneigd zijn tot misbruik en welke knelpunten hen momenteel stoppen. DeepMind gebruikt een mix van expert red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand zou kunnen helpen die knelpunten te omzeilen. Post-training methoden zijn bedoeld om het model te leren schadelijke queries te weigeren, terwijl overmatige weigering van legitieme wetenschapsvragen wordt vermeden. Dat is een lastige balans, niet alleen voor DeepMind, maar voor de hele industrie. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te signaleren. Daarnaast voert het bedrijf gerichte loganalyses uit om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. Geen van deze maatregelen wordt als opgelost beschreven. DeepMind ziet ze als een doorlopend proces, niet als een afgewerkt systeem. Dat is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de huidige beveiligingsconfiguraties. ### Het DNA-synthese screening probleem Een van de concretere risico's die worden onderzocht, heeft betrekking op DNA-synthese. Bedrijven binnen het International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines. DeepMind stelt echter dat deze aanpak begint te haperen. AI kan nu DNA-sequenties ontwerpen met een vergelijkbare functie als een gevaarlijk pathogeen, zonder dat de sequentie nauw genoeg overeenkomt om bestaande screens te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen aan biologische sequenties wordt gepresenteerd als verkennend werk, niet als een afgeronde oplossing. Het is een veelbelovend idee, maar de weg naar implementatie is nog lang. ### Wat betekent dit voor de praktijk? Voor professionals in AI en biosecurity is dit programma een belangrijke ontwikkeling. Het toont aan dat grote techbedrijven serieus werk maken van het beheersen van risico's, maar ook dat de uitdagingen groot zijn. De combinatie van preventie, detectie en respons vraagt om continue innovatie en samenwerking. DeepMind lijkt vastberaden om deze balans te vinden, maar het blijft een race tegen de klok.