Hoe Google DeepMind AI-wapens in biologie wil voorkomen zonder wetenschap te blokkeren

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilientieprogramma gelanceerd om misbruik van AI in de biologie tegen te gaan en tegelijkertijd sneller te kunnen reageren op uitbraken. Het is een initiatief dat stilletjes begon, maar inmiddels meer dan 15 partnerschappen heeft opgebouwd met overheden, biobeveiligingsorganisaties en onderzoeksgroepen. De uitdaging? Dezelfde AI die onderzoekers helpt vaccins te ontwikkelen, kan in verkeerde handen ook worden gebruikt om biologische wapens te ontwerpen. ### Het dubbele mandaat van AI in de biologie Frontiermodellen zoals Gemini hebben een steeds gedetailleerdere kennis van biologie. DeepMind geeft toe dat het koppelen van deze systemen aan gespecialiseerde biologische modellen, agents zoals Antigravity en externe databases deze capaciteit nog verder verscherpt. Maar diezelfde kennis die een onderzoeker helpt een vaccindoelwit in kaart te brengen, kan in theorie ook een kwaadwillende helpen gaten in hun eigen kennis te dichten. Het bedrijf omschrijft dit als een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die AI biedt, terwijl diezelfde tools uit handen worden gehouden van mensen die ze misbruiken. ### De drie pijlers van het programma Het programma rust op drie pijlers: - **Voorkomen van misbruik**: door dreigingsmodellen te ontwikkelen die identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen. - **Sneller detecteren van uitbraken**: door AI in te zetten om patronen te herkennen die wijzen op een opkomende epidemie. - **Reageren op uitbraken of aanvallen**: door snelle responsmechanismen te bouwen. De meer dan 15 partnerschappen van het afgelopen jaar raken alle drie de pijlers, hoewel DeepMind beperkt details geeft over welke organisaties precies betrokken zijn. Bekende namen zijn Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. ### Hoe Gemini wordt beveiligd zonder legitieme wetenschap te blokkeren Een van de grootste uitdagingen is het vinden van de juiste balans. DeepMind gebruikt een mix van expert red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand zou kunnen helpen om beveiligingsbarrières te omzeilen. Post-training methoden moeten het model leren om schadelijke vragen te weigeren, zonder dat het ook legitieme wetenschappelijke vragen blokkeert - een balans die de hele industrie lastig vindt. > "We willen niet dat een onderzoeker die een vaccin probeert te ontwikkelen, wordt geblokkeerd omdat het systeem te voorzichtig is." - DeepMind Classifiers en probes worden ingezet om risicovolle activiteiten in real-time te signaleren, en het bedrijf voert gerichte loganalyse uit om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. Toch geeft DeepMind toe dat geen van deze maatregelen als opgelost wordt beschouwd. Het zijn continue processen, geen afgeronde systemen. ### Het DNA-synthese screeningprobleem Een van de meest concrete risico's waar DeepMind naar kijkt, is DNA-synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen bestellingen momenteel tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningsalgoritmen. DeepMind stelt echter dat deze aanpak begint te haperen, omdat AI nu kan helpen DNA-sequenties te ontwerpen die qua functie lijken op een gevaarlijk pathogeen, maar niet qua sequentie genoeg overeenkomen om de bestaande screenings te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem SynthID, dat volgens het bedrijf een industriestandaard is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen hiervan voor biologische sequenties wordt gepresenteerd als verkennend werk, nog niet als een kant-en-klare oplossing. ### Wat betekent dit voor professionals in Nederland? Voor AI-websitebouwers en strategische adviseurs in Nederland is dit een belangrijk signaal. De technieken die DeepMind ontwikkelt - zoals het balanceren van veiligheid en toegankelijkheid, het gebruik van classifiers en watermerken - zijn direct toepasbaar op andere domeinen. Of je nu een AI-chatbot bouwt voor klantenservice of een complexe analyse-tool voor de gezondheidszorg, de lessen uit de bioresilientie kunnen je helpen om veiligere en betrouwbaardere AI-systemen te ontwerpen. Houd de ontwikkelingen rond SynthID en de dreigingsmodellen in de gaten; dit zijn waarschijnlijk de bouwstenen voor de volgende generatie AI-beveiliging.