Hoe Google DeepMind AI-misbruik in de biologie wil stoppen (en wat dat voor jou betekent)

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma aangekondigd om AI-misbruik in de biologie te voorkomen en tegelijkertijd de respons op uitbraken te verbeteren. Dit klinkt misschien als een technisch verhaal, maar het raakt aan iets waar wij allemaal mee te maken krijgen: veilige AI die niet in verkeerde handen valt. De twee organisaties publiceerden een update over een initiatief dat stil begon en inmiddels meer dan 15 partnerschappen heeft opgebouwd met overheidsinstanties, biosecurity-organisaties en onderzoeksgroepen. Denk aan samenwerkingen met het Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. ### Het dubbele mandaat van AI in de biologie Frontier-modellen zoals Gemini hebben een steeds gedetailleerder begrip van biologie. DeepMind geeft toe dat het combineren van deze systemen met gespecialiseerde biologie-modellen, agents zoals het Antigravity-platform, en databases van derden die capaciteit alleen maar vergroot. Maar hier zit de crux: dezelfde kennis die een onderzoeker helpt een vaccindoelwit in kaart te brengen, kan in theorie ook een kwaadwillende helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic noemen dit een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die AI biedt, terwijl diezelfde tools uit handen worden gehouden van mensen die ze willen misbruiken. Het programma rust op drie pijlers: misbruik voorkomen, uitbraken sneller detecteren, en reageren zodra een uitbraak of aanval plaatsvindt. ### Hoe DeepMind Gemini wil beveiligen zonder wetenschap te blokkeren Het preventiewerk is gebaseerd op dreigingsmodellering die identificeert welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind gebruikt een mix van expert-red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand kan helpen die knelpunten te omzeilen. Post-training-methoden zijn bedoeld om het model te leren schadelijke vragen te weigeren, terwijl het zogenaamde over-weigeren van legitieme wetenschappelijke vragen wordt vermeden. Dit is een balans die in de hele industrie lastig is gebleken, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te signaleren, en het bedrijf voert gerichte loganalyse uit om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. Geen van deze maatregelen wordt als opgelost beschreven. DeepMind presenteert ze als een doorlopend proces, niet als een afgerond systeem. Dit is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingen zoals ze nu zijn geconfigureerd. ### Het DNA-synthese screeningprobleem Een van de concretere risico's die worden onderzocht, betreft DNA-synthese. Bedrijven binnen het International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningsalgoritmen. DeepMind stelt duidelijk dat deze aanpak begint te haperen, omdat AI nu kan helpen DNA-sequenties te ontwerpen met vergelijkbare functie als een gevaarlijk pathogeen, zonder dat de sequentie dicht genoeg overeenkomt om bestaande screens te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerkingssysteem, SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk. ### Wat dit betekent voor de toekomst Het is duidelijk dat AI een enorme potentie heeft in de biologie, maar ook risico's met zich meebrengt. Dit programma is een stap in de goede richting, maar het is nog lang niet perfect. Voor professionals in Nederland die met AI-websitebouwers werken, is het goed om te weten dat deze ontwikkelingen ook invloed kunnen hebben op hoe AI-tools worden ingezet in andere sectoren, zoals gezondheidszorg en onderzoek. DeepMind zegt van plan te zijn de komende zes tot twaalf maanden de partnerschappen uit te breiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agents, en mitigaties tegen jailbreak-pogingen. Het coördineert ook met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën trainingsdata, waarbij virologiedatasets als voorbeeld worden genoemd. Dit is een verhaal dat nog lang niet is afgelopen. Maar het laat zien dat de balans tussen innovatie en veiligheid een van de grootste uitdagingen is van onze tijd.