Hoe Google DeepMind AI-misbruik in de biologie wil stoppen

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma aangekondigd om AI-misbruik in de biologie te voorkomen en tegelijkertijd de respons op uitbraken te verbeteren. Dit initiatief, dat stil van start ging, heeft in het afgelopen jaar meer dan 15 partnerschappen opgebouwd met overheidsinstanties, biosecurity-organisaties en onderzoeksgroepen. ### Het dubbele mandaat van AI in de biologie Frontier-modellen zoals Gemini hebben een steeds gedetailleerder begrip van biologie. DeepMind erkent dat het combineren van deze systemen met gespecialiseerde biologie-modellen, agents zoals het Antigravity-platform en databases van derden deze capaciteit verder zal verscherpen. Maar dezelfde kennis die een onderzoeker helpt om een vaccindoelwit in kaart te brengen, kan in principe ook een kwaadwillende helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic beschrijven dit als een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die frontier AI mogelijk maakt, terwijl dezelfde tools uit handen worden gehouden van mensen die ze willen misbruiken. ### De drie pijlers van het programma Het programma rust op drie pijlers, volgens de bedrijven: het voorkomen van misbruik, het sneller detecteren van uitbraken en het reageren zodra een uitbraak of aanval gaande is. De meer dan 15 partnerschappen die in het afgelopen jaar zijn opgebouwd, raken alle drie de pijlers. Hoewel de update beperkte details geeft over welke organisaties betrokken zijn, worden enkele samenwerkingspartners genoemd, waaronder Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. ### Uitbreiding van partnerschappen DeepMind zegt van plan te zijn om deze relaties in de komende zes tot twaalf maanden uit te breiden. De aandacht zal zich richten op dreigingsinformatie, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Het coördineert ook met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën van trainingsdata, waarbij virologie-datasets als voorbeeld worden gegeven. ### Gemini beveiligen zonder legitieme wetenschap te blokkeren Het preventiewerk rust op dreigingsmodellering die is ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind zegt dat het een mix van expert red-teaming en gerandomiseerde gecontroleerde onderzoeken gebruikt om te beoordelen of Gemini iemand kan helpen die knelpunten te overwinnen. Post-training methoden zijn bedoeld om het model te leren schadelijke vragen te weigeren, terwijl wordt voorkomen wat het bedrijf 'over-weigering' van legitieme wetenschappelijke vragen noemt. Dit evenwicht is in de hele industrie moeilijk gebleken, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te signaleren, en het bedrijf zegt dat het gerichte log-analyse uitvoert om subtielere misbruikpatronen op te sporen die geautomatiseerde filters mogelijk missen. Geen van deze mitigaties wordt beschreven als opgelost. DeepMind presenteert ze als een doorlopend proces in plaats van een afgerond systeem. Dit is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingen in hun huidige configuratie. Een classifier die is afgestemd op bekende jailbreak-patronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in live gebruik opduiken. Het bedrijf beweert ook niet anders. ### Het DNA-synthese screeningprobleem Een van de concretere risico's die worden onderzocht, heeft betrekking op DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel orders tegen lijsten van bekende schadelijke pathogenen en toxines, met screeningalgoritmen. DeepMind stelt duidelijk dat deze aanpak begint te haperen, omdat AI nu kan helpen bij het ontwerpen van DNA-sequenties met een vergelijkbare functie als een gevaarlijk pathogeen, zonder de sequentie voldoende te matchen om bestaande screenings te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem, SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk, nog niet als een definitieve oplossing. ### Wat dit betekent voor de sector Voor professionals in AI-website bouwen en de beste AI-website bouwers in Nederland is het interessant om te zien hoe DeepMind omgaat met de balans tussen innovatie en veiligheid. De aanpak laat zien dat AI niet alleen krachtige tools biedt, maar ook nieuwe verantwoordelijkheden met zich meebrengt. Het is een uitdaging die vergelijkbaar is met het bouwen van AI-websites: je wilt de technologie optimaal benutten zonder dat deze wordt misbruikt. Het bioresilience-programma van DeepMind is een voorbeeld van hoe bedrijven proactief kunnen nadenken over de ethische implicaties van hun technologie. Het is een les die ook van toepassing is op andere AI-toepassingen, van chatbots tot geavanceerde data-analyse.