Hoe Google DeepMind AI-misbruik in de biologie wil stoppen (en waarom het nog niet klaar is)

Sophie Jansen · 2026-07-16

### De dubbele uitdaging van AI in de biologie Google DeepMind en Isomorphic Labs hebben een bioresilience-programma gelanceerd. Het doel? AI-misbruik in de biologie tegengaan en tegelijkertijd helpen bij het snel reageren op uitbraken. Klinkt simpel, maar het is allesbehalve dat. De twee organisaties publiceerden onlangs een update over een gezamenlijk initiatief dat stil begon. In het afgelopen jaar hebben ze meer dan 15 partnerschappen opgebouwd met overheden, biosecurity-organisaties en onderzoeksgroepen. Denk aan samenwerkingen met Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. Het probleem? Frontier-modellen zoals Gemini hebben een steeds gedetailleerder begrip van biologie. DeepMind geeft toe dat het combineren van deze systemen met gespecialiseerde biologie-modellen, agents zoals Antigravity en externe databases die capaciteit alleen maar verscherpt. ### Het dubbele mandaat: vooruitgang versus veiligheid Dezelfde kennis die een onderzoeker helpt een vaccin-doelwit in kaart te brengen, kan in theorie ook een kwaadwillende helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic noemen dit een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die AI biedt, terwijl diezelfde tools uit handen blijven van mensen die ze misbruiken. Het programma rust op drie pijlers: - **Voorkomen van misbruik** - **Sneller detecteren van uitbraken** - **Reageren zodra een uitbraak of aanval gaande is** De meer dan 15 partnerschappen raken alle drie de pijlers, hoewel de update beperkte details geeft over welke organisaties betrokken zijn. ### Gemini beveiligen zonder wetenschap te blokkeren Het preventiewerk is gebaseerd op dreigingsmodellen die identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind gebruikt een mix van expert-red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand kan helpen die knelpunten te omzeilen. Post-training methoden moeten het model leren schadelijke queries te weigeren, zonder wat het bedrijf 'over-weigering' noemt van legitieme wetenschappelijke vragen. Dat is een balans die in de hele industrie lastig blijkt, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in real-time te signaleren, en het bedrijf voert gerichte log-analyse uit om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. > 'Geen van deze mitigerende maatregelen wordt beschreven als opgelost. DeepMind ziet ze als een doorlopend proces, niet als een afgerond systeem.' Dat is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de huidige beveiligingsconfiguraties. Een classifier die getraind is op bekende jailbreak-patronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in de praktijk opduiken. ### Het DNA-synthese screeningprobleem Een van de meest concrete risico's die wordt onderzocht, heeft te maken met DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende gevaarlijke pathogenen en toxines, met behulp van screeningsalgoritmes. DeepMind stelt ronduit dat deze aanpak begint te haperen, omdat AI nu kan helpen DNA-sequenties te ontwerpen met vergelijkbare functie als een gevaarlijk pathogeen, zonder dat de sequentie nauw genoeg overeenkomt om bestaande schermen te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem, SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk, niet als een afgeronde oplossing. ### Wat dit betekent voor de toekomst DeepMind zegt de komende zes tot twaalf maanden deze relaties te willen uitbreiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Het coördineert ook met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën trainingsdata, waarbij virologie-datasets als voorbeeld worden gegeven. De boodschap is duidelijk: AI in de biologie biedt enorme kansen, maar de veiligheidsuitdagingen zijn even groot. En voor nu is er geen pasklare oplossing.