Meer dan twintig techbedrijven, waaronder Meta, Microsoft en Nvidia, vragen Amerikaanse beleidsmakers om open-weight AI-modellen te beschermen. Een opvallende coalitie met een krachtig betoog.
Meer dan twintig grote techbedrijven en organisaties hebben een open brief gestuurd naar Amerikaanse beleidsmakers. Ze vragen daarin om open-weight AI-modellen te beschermen. Het is een opvallende coalitie van directe concurrenten en partijen met totaal verschillende verdienmodellen.
De brief is ondertekend door onder andere Meta, Microsoft, Nvidia, IBM, Dell Technologies, CrowdStrike, Palantir, ServiceNow, Hugging Face, Perplexity, Mistral, Andreessen Horowitz, Y Combinator, de Linux Foundation en Mozilla. Een indrukwekkende lijst, nietwaar?
### Wat zijn open-weight AI-modellen?
Laten we eerst even duidelijk zijn over waar het over gaat. Open-weight AI-modellen zijn systemen waarvan de getrainde parameters vrij beschikbaar worden gesteld. Iedereen kan ze downloaden, bekijken, aanpassen en draaien op de eigen hardware. Dat is heel anders dan gesloten modellen zoals die van OpenAI of Anthropic. Daarbij krijg je alleen toegang via een API en blijven de onderliggende gewichten veilig binnen de infrastructuur van de leverancier.
De ondertekenaars vergelijken deze strijd met de opensource-softwarebeweging uit de jaren 80. Ze stellen dat open gewichten de manier zijn waarop AI-capaciteit zich verspreidt buiten een handvol goed gefinancierde laboratoria. Naar wat zij noemen de werkvloeren van fabrieken, ziekenhuizen, boerderijen, klaslokalen en lokale ondernemingen.
### Drie belangrijke argumenten
Hun betoog rust op drie pijlers:
- Open gewichten verlagen de toegangsdrempel voor startups en publieke instellingen die geen frontier-modellen kunnen trainen of per-token kosten kunnen betalen voor routinetaken.
- Ze vergroten de concurrentie in de hele keten, van chips tot cloudinfrastructuur tot applicaties. Dat houdt de kosten laag en voorkomt dat een klein aantal aanbieders alle waarde naar zich toe trekt.
- Ze geven zakelijke klanten een manier om vendor lock-in te voorkomen. Organisaties die open-weight modellen draaien, behouden controle over hun eigen data en kunnen het model aanpassen aan interne vereisten zonder afhankelijk te zijn van de routekaart of prijsbeslissingen van een enkele leverancier.
### Het veiligheidsargument draait zich om
Het meest opvallende deel van de brief gaat over veiligheid. En het zet de gebruikelijke discussie over open modellen en beveiliging op z'n kop.
De brief geeft toe dat eenmaal vrijgegeven gewichten niet meer onder controle van de oorspronkelijke ontwikkelaar vallen. Aangepaste versies zijn moeilijk te traceren of terug te draaien. Een verfijnde of uitgeklede versie van een open model kan rondgaan met verwijderde veiligheidsmaatregelen, en er is geen terugroepmechanisme.
Toch zeggen de ondertekenaars dat verbod niet het antwoord is. Ze trekken een parallel met cybersecurity: verdedigers die te maken krijgen met AI-uitgeruste aanvallers hebben toegang nodig tot modellen met vergelijkbare capaciteiten om dreigingen te detecteren en simuleren. Gesloten systemen met toestemmingspoorten bieden dat niet gemakkelijk.
Ze breiden dit uit naar een bredere veiligheidsclaim: gesloten modellen zijn niet inherent veiliger. Ze kunnen worden gehackt, misbruikt of falen op manieren die externe onderzoekers niet kunnen observeren of verifiëren. Het concentreren van geavanceerde capaciteit achter een klein aantal gesloten aanbieders creëert volgens deze lezing juist single points of failure.
Open modellen daarentegen laten externe onderzoekers gedrag bestuderen, red-team oefeningen uitvoeren en kwetsbaarheden identificeren over vele teams heen. In plaats van te vertrouwen op de interne tests van één leverancier.
### Destillatie krijgt een speciale verdediging
De brief besteedt ook aandacht aan een techniek die controversieel is geworden in AI-kringen: destillatie. Dat is het proces waarbij de output van het ene model wordt gebruikt om een tweede model te trainen of verbeteren. De ondertekenaars pleiten ervoor dat deze praktijk beschermd moet blijven, omdat het een belangrijke manier is om AI toegankelijker te maken voor kleinere spelers.
Het is een interessante coalitie die hier samen optrekt. Want laten we eerlijk zijn: Meta en Microsoft zijn normaal gesproken niet bepaald de beste vrienden. Maar blijkbaar delen ze de overtuiging dat open-weight AI-modellen de toekomst moeten worden.
De komende maanden gaan we zien of Amerikaanse beleidsmakers luisteren naar deze oproep. Eén ding is zeker: de discussie over open versus gesloten AI gaat nog lang niet stilvallen.