Hoe Google DeepMind AI-misbruik in de biologie wil stoppen zonder de wetenschap te blokkeren

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma aangekondigd om AI-misbruik in de biologie te voorkomen en tegelijkertijd de respons op uitbraken te versnellen. Het initiatief, dat stilletjes van start ging, heeft in het afgelopen jaar meer dan 15 partnerschappen opgebouwd met overheidsinstanties, biosecurity-organisaties en onderzoeksgroepen. Dit is geen klein project; het raakt aan de kern van een van de grootste uitdagingen van onze tijd: hoe zorg je dat krachtige AI-tools zoals Gemini niet in verkeerde handen vallen, terwijl wetenschappers er wel mee kunnen blijven werken? ### Het dubbele mandaat van frontier AI Frontier-modellen zoals Gemini hebben een steeds gedetailleerder begrip van biologie. DeepMind geeft toe dat het combineren van deze systemen met gespecialiseerde biologie-modellen, agents zoals het Antigravity-platform en externe databases deze capaciteit alleen maar verder zal verscherpen. Maar hier zit het probleem: dezelfde kennis die een onderzoeker helpt om een vaccindoelwit in kaart te brengen, kan in theorie ook een kwaadwillende helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic noemen dit een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die frontier AI mogelijk maakt, terwijl dezelfde tools uit handen worden gehouden van mensen die ze willen misbruiken. ### Drie pijlers van het programma Het programma rust op drie pijlers, volgens de bedrijven: - **Voorkomen van misbruik:** door dreigingsmodellen en red-teaming in te zetten. - **Sneller opsporen van uitbraken:** door samenwerking met biosecurity-organisaties. - **Reageren zodra een uitbraak of aanval gaande is:** met concrete maatregelen en protocollen. De meer dan 15 partnerschappen die het afgelopen jaar zijn opgebouwd, raken alle drie de pijlers. Hoewel de update beperkte details geeft over welke organisaties betrokken zijn, worden enkele namen genoemd, waaronder Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. DeepMind zegt de komende zes tot twaalf maanden deze relaties te willen uitbreiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Ook coördineert het bedrijf met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën trainingsdata, met virologie-datasets als voorbeeld. ### Gemini beveiligen zonder de wetenschap te blokkeren Het preventiewerk rust op dreigingsmodellen die zijn ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind gebruikt een mix van expert red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand zou kunnen helpen om die knelpunten te omzeilen. Post-training methoden zijn bedoeld om het model te leren schadelijke vragen te weigeren, terwijl overmatige weigering van legitieme wetenschappelijke vragen wordt vermeden. Dit is een balans die in de hele industrie moeilijk is gebleken, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in real-time te signaleren, en het bedrijf voert gerichte loganalyse uit om subtielere misbruikpatronen op te sporen die geautomatiseerde filters mogelijk missen. Geen van deze mitigaties wordt beschreven als opgelost. DeepMind presenteert ze als een doorlopend proces in plaats van een afgerond systeem. Dit is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingsmaatregelen in hun huidige configuratie. Een classifier die is afgestemd op bekende jailbreak-patronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in de praktijk opduiken. Het bedrijf beweert ook niet anders. ### Het DNA-synthese screeningprobleem Een van de concretere risico's die worden onderzocht, heeft te maken met DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningalgoritmen. DeepMind stelt ronduit dat deze aanpak begint te haperen, omdat AI nu kan helpen bij het ontwerpen van DNA-sequenties met een vergelijkbare functie als een gevaarlijk pathogeen, zonder dat de sequentie dicht genoeg overeenkomt om bestaande screens te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem, SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan voor biologische sequenties wordt gepresenteerd als verkennend werk, niet als een definitieve oplossing. Het is een uitdaging die de komende jaren veel aandacht zal vragen. ### Wat dit betekent voor de sector Dit programma is een signaal dat AI-bedrijven zich bewust zijn van de risico's van hun technologie, maar ook dat ze nog lang niet alle antwoorden hebben. Voor professionals in de AI- en biotechnologie is het essentieel om deze ontwikkelingen te volgen, omdat ze de richting van regelgeving en veiligheidsnormen kunnen bepalen. De balans tussen innovatie en beveiliging zal de komende jaren een centraal thema blijven.