Hoe Google DeepMind AI-misbruik in de biologie wil stoppen (en waarom dat nog niet lukt)

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma gelanceerd om AI-misbruik in de biologie te voorkomen en tegelijkertijd uitbraken te bestrijden. Het klinkt als iets uit een sciencefictionfilm, maar het is heel echt. En het raakt aan een van de grootste dilemma's van deze tijd: hoe kun je de kracht van AI benutten zonder dat het in verkeerde handen valt? ### Wat is er precies gebeurd? De twee organisaties hebben een update gedeeld over een initiatief dat stilletjes begon. In het afgelopen jaar hebben ze meer dan 15 partnerschappen opgebouwd met overheden, biosecurity-organisaties en onderzoeksgroepen. Denk aan namen als Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. Maar de details over wat deze partners precies doen? Die blijven vaag. Het probleem is dat AI-modellen zoals Gemini steeds beter worden in biologie. Ze kunnen vaccins ontwerpen, maar ook helpen bij het maken van gevaarlijke pathogenen. DeepMind noemt dit een "dual mandate": de wetenschap vooruithelpen, maar voorkomen dat slechte acteurs dezelfde tools gebruiken. ### Drie pijlers van het programma Het programma rust op drie pijlers: - **Voorkomen van misbruik**: door dreigingsmodellen en red-teaming. - **Sneller detecteren van uitbraken**: via AI-gestuurde surveillance. - **Reageren op uitbraken of aanvallen**: met geavanceerde responsmechanismen. De partnerschappen raken alle drie deze pijlers, maar DeepMind geeft weinig details over hoe dat precies werkt. Dat is opvallend, want transparantie is juist cruciaal als je vertrouwen wilt winnen. ### Hoe houd je Gemini veilig zonder de wetenschap te blokkeren? De preventie draait om dreigingsmodellen die identificeren wie het meest waarschijnlijk misbruik zal maken en wat hen nu tegenhoudt. DeepMind gebruikt een mix van expert red-teaming en gerandomiseerde gecontroleerde onderzoeken om te beoordelen of Gemini iemand zou kunnen helpen die barrières te omzeilen. Post-training methoden moeten het model leren om schadelijke vragen te weigeren, zonder dat het legitieme wetenschappelijke vragen blokkeert. Dat is een lastige balans, zoals de hele AI-industrie weet. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te signaleren, en DeepMind voert gerichte log-analyse uit om subtiele misbruikpatronen te vangen die geautomatiseerde filters missen. Maar DeepMind zegt zelf dat geen van deze maatregelen waterdicht is. Het is een doorlopend proces, geen afgerond systeem. Dat is eerlijk, maar ook een waarschuwing voor bedrijven en overheden die op deze beveiliging willen vertrouwen. ### Het DNA-syntheseprobleem Een van de meest concrete risico's is DNA-synthese. Bedrijven in de International Gene Synthesis Consortium screenen bestellingen tegen lijsten van bekende gevaarlijke pathogenen. Maar DeepMind stelt dat deze aanpak begint te falen, omdat AI nu DNA-sequenties kan ontwerpen die functioneel lijken op een gevaarlijke pathogeen, maar niet exact overeenkomen met de sequentie. De bestaande filters zien dat verschil niet. De voorgestelde oplossing? Een aanpassing van DeepMinds eigen watermerksysteem, SynthID. Dit systeem wordt al gebruikt voor AI-gegenereerde afbeeldingen en tekst. Het aanpassen voor biologische sequenties is nog experimenteel, maar het idee is veelbelovend. ### Wat betekent dit voor de praktijk? Voor professionals in AI en biosecurity is dit een belangrijk signaal. De technologie ontwikkelt zich razendsnel, en de beveiliging moet mee. Maar zoals DeepMind zelf aangeeft: het is een race zonder finish. Bedrijven en overheden moeten continu evalueren of hun beveiligingsmaatregelen nog voldoen. > "We moeten voorkomen dat AI een wapen wordt in plaats van een hulpmiddel," zei een woordvoerder van DeepMind. "Maar dat betekent niet dat we de wetenschap moeten stoppen." ### Conclusie Het bioresilience-programma van Google DeepMind en Isomorphic Labs is een ambitieuze stap, maar het roept ook vragen op. Hoeveel transparantie is nodig? Hoe kunnen we vertrouwen op systemen die nog niet perfect zijn? En wie bewaakt de bewakers? Voor nu is het duidelijk: AI in de biologie is een tweesnijdend zwaard. En we staan pas aan het begin van dit verhaal.