Hoe Google DeepMind AI-misbruik in de biologie wil stoppen (zonder de wetenschap te blokkeren)

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma gelanceerd om AI-misbruik in de biologie te voorkomen en tegelijkertijd de respons op uitbraken te versnellen. Dit initiatief, dat stil begon, heeft in de afgelopen 12 maanden meer dan 15 partnerschappen opgebouwd met overheidsinstanties, biosecurity-organisaties en onderzoeksgroepen. ### Het dubbele mandaat van AI in de biologie Frontier-modellen zoals Gemini hebben een steeds gedetailleerdere kennis van de biologie. DeepMind erkent dat het koppelen van deze systemen aan gespecialiseerde biologie-modellen, zoals het Antigravity-platform, en externe databases deze capaciteit verder zal verscherpen. Maar dezelfde kennis die een onderzoeker helpt om een vaccindoelwit in kaart te brengen, kan in principe een bedreiger helpen om gaten in zijn eigen begrip te dichten. DeepMind en Isomorphic beschrijven dit als een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die frontier AI mogelijk maakt, terwijl dezelfde tools uit handen worden gehouden van mensen die ze zouden misbruiken. ### Drie pijlers van het programma Het programma rust op drie pijlers: - **Voorkomen van misbruik**: Het identificeren van welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. - **Snellere detectie van uitbraken**: Het verbeteren van de snelheid waarmee uitbraken worden opgespoord. - **Reageren op uitbraken**: Het versnellen van de respons zodra een uitbraak of aanval gaande is. De meer dan 15 partnerschappen van het afgelopen jaar raken alle drie de pijlers. Hoewel de update beperkte details geeft over welke organisaties betrokken zijn, noemen ze een handvol samenwerkingspartners, waaronder Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. DeepMind zegt de komende zes tot twaalf maanden deze relaties te willen uitbreiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agenten en jailbreak-mitigaties. ### Gemini beveiligen zonder de wetenschap te blokkeren Het preventiewerk is gebaseerd op dreigingsmodellering die is ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind gebruikt een mix van expert-red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand kan helpen die knelpunten te omzeilen. Post-training methoden zijn bedoeld om het model te leren schadelijke vragen te weigeren, terwijl overweigering van legitieme wetenschappelijke vragen wordt vermeden. Dit is een balans die in de hele industrie moeilijk is gebleken. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te markeren, en het bedrijf voert gerichte loganalyse uit om subtielere misbruikpatronen te detecteren die geautomatiseerde filters mogelijk missen. Geen van deze mitigaties wordt als opgelost beschreven. DeepMind ziet ze als een doorlopend proces, niet als een afgerond systeem. Dit is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingen zoals ze momenteel zijn geconfigureerd. Een classifier die is getraind op bekende jailbreak-patronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in de praktijk opduiken. ### Het DNA-synthese screeningprobleem Een van de meer concrete risico's die worden onderzocht, betreft DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningalgoritmen. DeepMind stelt duidelijk dat deze aanpak begint te wankelen, omdat AI nu kan helpen DNA-sequenties te ontwerpen met vergelijkbare functie als een gevaarlijk pathogeen, zonder dat de sequentie nauw genoeg overeenkomt om bestaande screens te activeren. De voorgestelde oplossing leunt op DeepMind's bestaande watermerksysteem, SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk. Dit is een cruciaal punt voor elke organisatie die overweegt om AI in te zetten voor biologische doeleinden, omdat het laat zien dat de technologie nog niet volledig is volwassen. ### Wat dit betekent voor de toekomst Het bioresilience-programma van DeepMind is een belangrijke stap in het beheersen van de risico's van AI in de biologie. Het benadrukt de noodzaak van een proactieve aanpak om misbruik te voorkomen, terwijl de wetenschappelijke vooruitgang wordt gestimuleerd. Voor professionals in de AI- en biotechnologie-sector is het essentieel om deze ontwikkelingen te volgen, omdat ze de normen voor veiligheid en ethiek in de industrie zullen bepalen.