Hoe Google DeepMind AI-misbruik in de biologie wil voorkomen

Sophie Jansen · 2026-07-16

Google DeepMind en Isomorphic Labs hebben een bioresilience-programma aangekondigd dat AI-misbruik in de biologie moet tegengaan en tegelijkertijd de respons op uitbraken moet versnellen. Het initiatief, dat stil begon, heeft in het afgelopen jaar meer dan 15 partnerschappen opgebouwd met overheidsinstanties, biobeveiligingsorganisaties en onderzoeksgroepen. ### De dubbele uitdaging van AI in de biologie Frontier-modellen zoals Gemini hebben een steeds gedetailleerdere kennis van biologie. DeepMind geeft toe dat het combineren van deze systemen met gespecialiseerde biologische modellen, agents zoals het Antigravity-platform, en databases van derden die capaciteit alleen maar verscherpt. Maar dezelfde kennis die een onderzoeker helpt bij het in kaart brengen van een vaccindoelwit, kan in principe ook een dreigingsactor helpen om gaten in hun eigen begrip te dichten. DeepMind en Isomorphic beschrijven dit als een dubbel mandaat: de wetenschappelijke vooruitgang mogelijk maken die frontier AI mogelijk maakt, terwijl diezelfde tools uit handen worden gehouden van mensen die ze zouden misbruiken. ### De drie pijlers van het programma Het programma rust op drie pijlers: preventie van misbruik, snellere detectie van uitbraken en respons zodra een uitbraak of aanval gaande is. De meer dan 15 partnerschappen die het afgelopen jaar zijn opgebouwd, raken alle drie, hoewel de update beperkte details geeft over welke organisaties betrokken zijn. Enkele genoemde samenwerkers zijn Lawrence Livermore National Laboratory, het UK AI Security Institute, CEPI en het Francis Crick Institute. > "Het voorkomen van misbruik zonder legitieme wetenschap te blokkeren, is een balans die moeilijk te vinden is." DeepMind zegt de komende zes tot twaalf maanden deze relaties te willen uitbreiden, met aandacht voor dreigingsinformatie, evaluatiemethoden voor AI-agents en jailbreak-mitigaties. Het coördineert ook met het Frontier Model Forum over vragen zoals hoe om te gaan met risicovollere categorieën trainingsdata, waarbij virologische datasets als voorbeeld worden gegeven. ### Hoe Gemini wordt beveiligd zonder legitieme wetenschap te blokkeren Het preventiewerk rust op dreigingsmodellering die is ontworpen om te identificeren welke actoren het meest waarschijnlijk misbruik zullen proberen en welke knelpunten hen momenteel stoppen. DeepMind zegt een mix van expert red-teaming en gerandomiseerde gecontroleerde onderzoeken te gebruiken om te beoordelen of Gemini iemand zou kunnen helpen die knelpunten te omzeilen. Post-training methoden zijn bedoeld om het model te leren schadelijke vragen te weigeren, terwijl overmatige weigering van legitieme wetenschappelijke vragen wordt vermeden. Classifiers en probes worden ingezet om risicovolle activiteiten in realtime te markeren, en het bedrijf zegt gerichte loganalyse uit te voeren om subtielere misbruikpatronen te vangen die geautomatiseerde filters mogelijk missen. Geen van deze mitigaties wordt als opgelost beschreven. DeepMind presenteert ze als een doorlopend proces in plaats van een afgerond systeem. Dat is belangrijk voor elke onderneming of overheidsinstantie die overweegt te vertrouwen op de beveiligingen zoals ze nu zijn geconfigureerd. Een classifier die is afgestemd op bekende jailbreak-patronen in een gecontroleerde evaluatie, garandeert geen gelijkwaardige prestaties tegen nieuwe aanvalsmethoden die in live gebruik opduiken. ### Het DNA-synthese screeningsprobleem Een van de concretere risico's die worden onderzocht, betreft DNA-synthese. Bedrijven binnen het International Gene Synthesis Consortium screenen momenteel bestellingen tegen lijsten van bekende schadelijke pathogenen en toxines, met behulp van screeningsalgoritmen. DeepMind stelt duidelijk dat deze aanpak begint te wankelen, omdat AI nu kan helpen bij het ontwerpen van DNA-sequenties met een vergelijkbare functie als een gevaarlijk pathogeen, zonder de sequentie voldoende te benaderen om bestaande schermen te activeren. ### De voorgestelde oplossing De voorgestelde oplossing leunt op DeepMinds bestaande watermerksysteem, SynthID, dat volgens het bedrijf een industrienorm is geworden voor het markeren van AI-gegenereerde afbeeldingen en tekst. Het aanpassen ervan aan biologische sequenties wordt gepresenteerd als verkennend werk. Het is nog niet duidelijk of dit effectief zal zijn, maar het toont aan dat DeepMind serieus werk maakt van het beveiligen van AI in de biologie. ### Wat dit betekent voor professionals Voor professionals in AI-website bouwen en de beste AI-website bouwers in Nederland is dit relevant omdat het laat zien hoe AI-bedrijven omgaan met beveiliging en ethiek. Het benadrukt het belang van het bouwen van AI-systemen die zowel krachtig als veilig zijn. Of je nu een AI-website bouwt voor een zorginstelling of een onderzoekslab, het is cruciaal om na te denken over hoe je de technologie kunt inzetten zonder risico's te creëren. ### Conclusie Google DeepMind en Isomorphic Labs zetten belangrijke stappen om AI-misbruik in de biologie te voorkomen. Het programma is nog in ontwikkeling, maar de focus op preventie, detectie en respons biedt een solide basis. Het zal interessant zijn om te zien hoe deze initiatieven zich ontwikkelen en welke impact ze hebben op de bredere AI-industrie.