Hoe Google DeepMind AI-misbruik in biologie wil stoppen (en wat dat voor u betekent)

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma gepresenteerd om AI-misbruik in de biologie te voorkomen en tegelijkertijd uitbraken sneller te bestrijden. De twee organisaties publiceerden een update van een stilletjes gestart initiatief, dat in het afgelopen jaar meer dan 15 partnerschappen heeft opgebouwd met overheidsinstanties, biosecurity-organisaties en onderzoeksgroepen. ### Het dubbele mandaat van AI in biologie De aankondiging komt met een specifiek framingprobleem. Frontier-modellen zoals Gemini hebben een steeds gedetailleerdere kennis van biologie, en DeepMind erkent dat het koppelen van deze systemen aan gespecialiseerde biologiemodellen, agents zoals het Antigravity-platform en externe databases die capaciteit alleen maar zal verscherpen. Maar dezelfde kennis die een onderzoeker helpt een vaccindoelwit in kaart te brengen, kan in principe een dreigingsactor helpen gaten in hun eigen begrip te dichten. DeepMind en Isomorphic omschrijven dit als een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die frontier AI mogelijk maakt, terwijl diezelfde tools uit handen worden gehouden van mensen die ze zouden misbruiken. ### De drie pijlers van het programma Volgens de bedrijven rust het programma op drie pijlers: misbruik voorkomen, uitbraken sneller detecteren en reageren zodra een uitbraak of aanval gaande is. De meer dan 15 partnerschappen van het afgelopen jaar raken alle drie, hoewel de update beperkte details geeft over welke organisaties betrokken zijn. Enkele genoemde partners zijn Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. DeepMind zegt van plan te zijn deze relaties de komende zes tot twaalf maanden uit te breiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agents en mitigaties tegen jailbreaks. Het coördineert ook met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën trainingsdata, waarbij virologische datasets het gegeven voorbeeld zijn. ### Gemini beveiligen zonder legitieme wetenschap te blokkeren Het preventiewerk rust op dreigingsmodellering die is ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind zegt een mix van expert red-teaming en gerandomiseerde gecontroleerde onderzoeken te gebruiken om te beoordelen of Gemini iemand zou kunnen helpen die knelpunten te omzeilen. Post-trainingsmethoden zijn bedoeld om het model te leren schadelijke queries te weigeren, terwijl overmatige weigering van legitieme wetenschapsvragen wordt vermeden - een balans die in de hele industrie lastig is gebleken, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te markeren, en het bedrijf zegt gerichte loganalyse uit te voeren om subtielere misbruikpatronen op te sporen die geautomatiseerde filters mogelijk missen. Geen van deze mitigaties wordt als opgelost beschreven. DeepMind presenteert ze als een doorlopend proces in plaats van een afgerond systeem, wat belangrijk is voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingen zoals ze nu zijn geconfigureerd. Een classifier die is afgestemd op bekende jailbreakpatronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in live gebruik opduiken, en het bedrijf beweert ook niet anders. ### Het DNA-synthese screeningprobleem Een van de concretere risico's die worden onderzocht, betreft DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningalgoritmen. DeepMind stelt ronduit dat deze aanpak begint te haperen, omdat AI nu kan helpen DNA-sequenties te ontwerpen met vergelijkbare functie als een gevaarlijk pathogeen, zonder de sequentie nauw genoeg te matchen om bestaande screenings te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem, SynthID, waarvan het bedrijf zegt dat het een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk, nog niet afgerond. ### Wat dit betekent voor de toekomst Dit programma laat zien hoe complex de uitdaging is: AI kan enorme vooruitgang boeken in de biologie, maar dezelfde technologie kan ook worden misbruikt. DeepMind en Isomorphic Labs zetten belangrijke stappen, maar erkennen dat er geen simpele oplossingen zijn. Voor professionals in AI en biosecurity is het cruciaal om deze ontwikkelingen te volgen, want de balans tussen veiligheid en wetenschappelijke vooruitgang zal de komende jaren alleen maar belangrijker worden.