Hoe Google DeepMind AI-misbruik in de biologie wil voorkomen (en wat dat betekent)

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilientieprogramma aangekondigd om AI-misbruik in de biologie te beperken en tegelijkertijd de respons op uitbraken te verbeteren. De twee organisaties publiceerden een update over een gezamenlijk initiatief dat stil begon en nu, na 12 maanden, meer dan 15 partnerschappen heeft opgebouwd met overheidsinstanties, biosecurity-organisaties en onderzoeksgroepen. Maar hier zit een lastig probleem aan vast. Frontier-modellen zoals Gemini hebben een steeds gedetailleerder begrip van biologie. DeepMind geeft toe dat het combineren van deze systemen met gespecialiseerde biologische modellen, agents zoals hun Antigravity-platform en databases van derden die capaciteit alleen maar verder aanscherpt. Dezelfde kennis die een onderzoeker helpt een vaccindoelwit in kaart te brengen, kan in principe een kwaadwillende helpen om gaten in hun eigen kennis te dichten. ### Het dubbele mandaat van DeepMind DeepMind en Isomorphic noemen dit een dubbel mandaat: enerzijds de wetenschappelijke vooruitgang mogelijk maken die frontier AI mogelijk maakt, en anderzijds diezelfde tools uit handen houden van mensen die ze willen misbruiken. Het programma rust op drie pijlers: misbruik voorkomen, uitbraken sneller detecteren en reageren zodra een uitbraak of aanval gaande is. De 15+ partnerschappen van het afgelopen jaar raken alle drie de pijlers, hoewel de update beperkte details geeft over welke organisaties betrokken zijn. Enkele genoemde samenwerkingspartners zijn: - Lawrence Livermore National Laboratory - Het UK AI Security Institute - CEPI - Het Francis Crick Institute DeepMind zegt de komende zes tot twaalf maanden deze relaties te willen uitbreiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Ze coördineren ook met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën trainingsdata, waarbij virologische datasets als voorbeeld worden genoemd. ### Gemini beveiligen zonder wetenschap te blokkeren Het preventiewerk rust op dreigingsmodellering die is ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind gebruikt een mix van expert-red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand zou kunnen helpen die knelpunten te omzeilen. Post-training-methoden moeten het model leren schadelijke queries te weigeren, terwijl overmatige weigering van legitieme wetenschappelijke vragen wordt vermeden. Dit evenwicht is moeilijk te vinden in de hele industrie, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te markeren, en het bedrijf voert gerichte log-analyse uit om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. Geen van deze mitigaties wordt als opgelost beschreven. DeepMind presenteert ze als een doorlopend proces in plaats van een afgerond systeem. Dat is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingen zoals ze nu zijn geconfigureerd. Een classifier die is afgestemd op bekende jailbreak-patronen in een gecontroleerde evaluatie garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in de praktijk opduiken. ### Het DNA-synthese-screeningsprobleem Een van de concretere risico's die worden onderzocht, betreft DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningsalgoritmen. DeepMind stelt ronduit dat deze aanpak begint te haperen, omdat AI nu kan helpen DNA-sequenties te ontwerpen met vergelijkbare functie als een gevaarlijk pathogeen, zonder dat de sequentie dicht genoeg matcht om bestaande screens te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk. De implicaties zijn groot: als AI biologische wapens kan helpen ontwerpen die onder de radar blijven, dan moeten beveiligingssystemen mee-evolueren. ### Wat dit betekent voor de toekomst DeepMind's aanpak is een erkenning dat dezelfde AI die levensreddende ontdekkingen mogelijk maakt, ook een donkere kant heeft. Het bedrijf kiest voor transparantie door de beperkingen van hun mitigaties toe te geven, wat vertrouwen wekt bij partners. Maar de vraag blijft of deze maatregelen snel genoeg evolueren om gelijke tred te houden met de snelle vooruitgang in AI. Voor Nederlandse professionals in AI- en biotechnologie is dit een belangrijk signaal. Het laat zien dat verantwoordelijkheid voor AI-veiligheid niet alleen bij regelgevers ligt, maar ook bij de ontwikkelaars zelf. De komende maanden zullen uitwijzen of deze aanpak de balans tussen vooruitgang en veiligheid kan bewaren.