Google DeepMinds bioresilience plan: AI veilig houden zonder wetenschap te blokkeren

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience programma gelanceerd om misbruik van AI in de biologie te voorkomen, terwijl ze tegelijkertijd helpen bij het bestrijden van uitbraken. Het initiatief, dat stil begon, heeft in het afgelopen jaar meer dan 15 partnerschappen opgebouwd met overheidsinstanties, biosecurity organisaties en onderzoeksgroepen. ### Het dubbele mandaat van AI in de biologie De aankondiging komt met een specifiek framing probleem. Frontier modellen zoals Gemini hebben een steeds gedetailleerder begrip van biologie, en DeepMind erkent dat het combineren van deze systemen met gespecialiseerde biologie modellen, agenten zoals het Antigravity platform, en databases van derden die capaciteit alleen maar scherper maakt. Maar dezelfde kennis die een onderzoeker helpt een vaccindoel in kaart te brengen, kan in principe een dreigingsactor helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic omschrijven dit als een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die frontier AI mogelijk maakt, terwijl diezelfde tools uit handen worden gehouden van mensen die ze zouden misbruiken. ### De drie pijlers van het programma Het programma rust op drie pijlers, volgens de bedrijven: misbruik voorkomen, uitbraken sneller detecteren, en reageren zodra een uitbraak of aanval gaande is. De 15-plus partnerschappen die het afgelopen jaar zijn opgebouwd raken alle drie, hoewel de update beperkte details geeft over welke organisaties betrokken zijn. Naast een handvol genoemde samenwerkers, waaronder Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute, blijft het grotendeels stil. DeepMind zegt van plan te zijn deze relaties in de komende zes tot twaalf maanden uit te breiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI agenten en jailbreak mitigaties. Het coördineert ook met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieen trainingsdata, waarbij virologie datasets als voorbeeld worden gegeven. ### Gemini beveiligen zonder legitieme wetenschap te blokkeren Het preventiewerk rust op dreigingsmodellering die ontworpen is om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind zegt dat het een mix van expert red-teaming en gerandomiseerde gecontroleerde proeven gebruikt om te beoordelen of Gemini iemand zou kunnen helpen die knelpunten te overbruggen. Post-training methoden zijn bedoeld om het model te leren schadelijke queries te weigeren, terwijl het voorkomt wat het bedrijf over-weigering van legitieme wetenschapsvragen noemt. Een balans die in de hele industrie moeilijk is gebleken, niet alleen voor DeepMind. Classifiers en probes worden ingezet om risicovolle activiteit in realtime te markeren, en het bedrijf zegt dat het gerichte loganalyse uitvoert om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. Geen van deze mitigaties wordt als opgelost beschreven. DeepMind presenteert ze als een doorlopend proces in plaats van een afgerond systeem, wat belangrijk is voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingen zoals ze momenteel zijn geconfigureerd. ### Het DNA synthese screening probleem Een van de meer concrete risico's die worden onderzocht, betreft DNA synthese. Bedrijven binnen de International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, in combinatie met screening algoritmes. DeepMind stelt ronduit dat deze aanpak begint te wankelen, omdat AI nu kan helpen DNA sequenties te ontwerpen met vergelijkbare functie als een gevaarlijk pathogeen zonder de sequentie voldoende te matchen om bestaande screens te activeren. De voorgestelde oplossing leunt op DeepMinds bestaande watermerk systeem, SynthID, dat het bedrijf zegt een industrie standaard te zijn geworden voor het markeren van AI gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk, niet als een afgeronde oplossing. Dit benadrukt hoe snel het veld evolueert en hoe belangrijk het is om voorop te blijven lopen. ### Wat betekent dit voor de Nederlandse AI gemeenschap? Voor professionals in Nederland die werken met AI website bouwen en de beste AI website bouwers, is deze ontwikkeling relevant omdat het de grenzen laat zien van wat AI kan doen, zowel positief als negatief. De balans tussen innovatie en veiligheid is een thema dat ook in de Nederlandse tech sector speelt. Het benadrukt het belang van verantwoordelijk gebruik van AI, iets waar we allemaal bij betrokken zijn. > "Dezelfde kennis die een onderzoeker helpt een vaccindoel in kaart te brengen, kan in principe een dreigingsactor helpen om gaten in hun eigen begrip te dichten." De volgende stappen van DeepMind, waaronder uitbreiding van partnerschappen en verbetering van evaluatiemethoden, zullen nauwlettend worden gevolgd door zowel voorstanders als critici. Het is een herinnering dat AI niet alleen een tool is, maar een krachtige technologie die verantwoordelijk moet worden beheerd.