Hoe Google DeepMind AI-misbruik in de biologie wil voorkomen

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma gelanceerd om AI-misbruik in de biologie te voorkomen en tegelijkertijd de respons op uitbraken te verbeteren. Dit initiatief, dat stil begon, heeft in het afgelopen jaar meer dan 15 partnerschappen opgebouwd met overheidsinstanties, biosecurity-organisaties en onderzoeksgroepen. ### Het dubbele mandaat van AI in de biologie Frontmodellen zoals Gemini hebben een steeds gedetailleerdere kennis van de biologie. DeepMind erkent dat het koppelen van deze systemen aan gespecialiseerde biologische modellen, agents zoals het Antigravity-platform en databases van derden die capaciteit alleen maar zal verscherpen. Maar dezelfde kennis die een onderzoeker helpt een vaccindoelwit in kaart te brengen, kan in principe een kwaadwillende helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic beschrijven dit als een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die frontier AI mogelijk maakt, terwijl diezelfde tools uit handen worden gehouden van mensen die ze willen misbruiken. Het programma rust op drie pijlers: - **Preventie van misbruik:** Het identificeren van dreigingsactoren en het blokkeren van hun toegang tot gevaarlijke kennis. - **Snellere detectie van uitbraken:** Het verbeteren van systemen om uitbraken eerder te signaleren. - **Respons:** Het reageren zodra een uitbraak of aanval gaande is. ### Partnerschappen en samenwerkingen De meer dan 15 partnerschappen die in het afgelopen jaar zijn opgebouwd, raken alle drie de pijlers. Hoewel de update beperkte details geeft over welke organisaties betrokken zijn, worden enkele namen genoemd, waaronder Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. DeepMind zegt de komende zes tot twaalf maanden deze relaties te willen uitbreiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agents en mitigaties tegen jailbreaks. > "AI kan nu DNA-sequenties ontwerpen die qua functie lijken op een gevaarlijk pathogeen, zonder dat de sequentie dicht genoeg overeenkomt om bestaande schermen te activeren." ### Het beveiligen van Gemini zonder legitieme wetenschap te blokkeren Het preventiewerk rust op dreigingsmodellering die is ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind gebruikt een mix van expert red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand zou kunnen helpen die knelpunten te omzeilen. Post-training methoden zijn bedoeld om het model te leren schadelijke vragen te weigeren, terwijl overmatige weigering van legitieme wetenschappelijke vragen wordt vermeden. Dat is een balans die in de hele industrie moeilijk is gebleken, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in real-time te markeren, en het bedrijf voert gerichte loganalyse uit om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. Geen van deze mitigaties wordt beschreven als opgelost. DeepMind presenteert ze als een doorlopend proces in plaats van een afgerond systeem. Dat is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingen in hun huidige configuratie. Een classifier die is getraind op bekende jailbreak-patronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in de praktijk opduiken. ### Het DNA-synthese screening probleem Een van de concretere risico's die worden onderzocht, betreft DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningsalgoritmen. DeepMind stelt duidelijk dat deze aanpak begint te wankelen, omdat AI nu DNA-sequenties kan helpen ontwerpen met een vergelijkbare functie als een gevaarlijk pathogeen, zonder dat de sequentie dicht genoeg overeenkomt om bestaande schermen te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem, SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk, niet als een afgeronde oplossing. Dit benadrukt hoe snel AI de biologische veiligheid verandert en waarom bedrijven en overheden moeten blijven investeren in preventie.