Hoe Google DeepMind AI-misbruik in de biologie wil voorkomen (en wat dat voor jou betekent)

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben hun bioresilience-programma uit de doeken gedaan. Het doel? AI-misbruik in de biologie tegengaan en tegelijkertijd sneller reageren op uitbraken. In de afgelopen twaalf maanden hebben de twee organisaties stilletjes meer dan vijftien partnerschappen opgebouwd met overheden, biosecurity-organisaties en onderzoeksgroepen. Nu maken ze hun plannen openbaar, en dat roept direct een fundamentele vraag op: hoe houd je krachtige AI veilig zonder de wetenschap te blokkeren? ### Het dubbele mandaat van AI in de biologie Frontier-modellen zoals Gemini hebben een steeds gedetailleerder begrip van biologie. DeepMind geeft toe dat het combineren van deze modellen met gespecialiseerde biologie-modellen, agents zoals het Antigravity-platform, en externe databases die capaciteit alleen maar zal verscherpen. Maar hier zit de angel: dezelfde kennis die een onderzoeker helpt een vaccin-doelwit in kaart te brengen, kan in theorie een kwaadwillende helpen gaten in hun eigen begrip te dichten. DeepMind en Isomorphic noemen dit een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die AI mogelijk maakt, terwijl diezelfde tools uit handen blijven van mensen die ze willen misbruiken. Het programma rust op drie pijlers: - **Voorkomen van misbruik**: dreigingsmodellen identificeren wie het meest waarschijnlijk misbruik zal proberen en welke knelpunten hen momenteel stoppen. - **Sneller detecteren van uitbraken**: uitbraken eerder opsporen zodat er sneller kan worden gereageerd. - **Reageren zodra een uitbraak of aanval gaande is**: een effectieve respons opzetten. De meer dan vijftien partnerschappen raken alle drie de pijlers, hoewel DeepMind beperkte details geeft over welke organisaties betrokken zijn. Een handvol samenwerkers wordt genoemd, waaronder Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. ### Hoe DeepMind Gemini wil beveiligen zonder legitieme wetenschap te blokkeren Het preventiewerk rust op dreigingsmodellen die zijn ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind zegt een mix van expert red-teaming en gerandomiseerde gecontroleerde studies te gebruiken om te beoordelen of Gemini iemand zou kunnen helpen die knelpunten te omzeilen. Post-training methoden moeten het model leren schadelijke queries te weigeren, terwijl het vermijdt wat het bedrijf 'over-weigering' van legitieme wetenschapsvragen noemt. Dat is een balans die de hele industrie lastig vindt, niet alleen DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in real-time te signaleren, en het bedrijf zegt gerichte log-analyse uit te voeren om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. > "Geen van deze mitigaties wordt beschreven als opgelost. DeepMind presenteert ze als een doorlopend proces, niet als een afgerond systeem." Een classifier die is afgestemd op bekende jailbreak-patronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in de praktijk opduiken. Dat is een belangrijk punt voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingen zoals ze nu zijn geconfigureerd. ### Het DNA-synthese screening probleem Een van de meest concrete risico's die DeepMind onderzoekt, heeft te maken met DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screening-algoritmen. DeepMind stelt duidelijk dat deze aanpak begint te haperen, omdat AI nu kan helpen DNA-sequenties te ontwerpen met een vergelijkbare functie als een gevaarlijk pathogeen, zonder de sequentie voldoende te benaderen om bestaande schermen te activeren. De voorgestelde oplossing leunt op DeepMind's bestaande watermerksysteem, SynthID, dat het bedrijf zegt een industriestandaard te zijn geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk, niet als een afgeronde oplossing. ### Wat dit betekent voor de komende maanden DeepMind zegt de komende zes tot twaalf maanden deze relaties te willen verbreden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Het coördineert ook met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën trainingsdata, met virologie-datasets als voorbeeld. De hamvraag blijft: kunnen deze maatregelen voorkomen dat AI in de verkeerde handen valt, zonder de vooruitgang in de biowetenschappen te vertragen? DeepMind geeft zelf toe dat het een doorlopend proces is. Voor nu is het een belangrijke stap in de goede richting, maar de echte test komt pas wanneer de technologie breder wordt ingezet.