VS sluit naar verluidt open-weight AI-modellen uit van cybertests

Open-weight AI-modellen blijven naar verluidt buiten een nieuw programma van de Amerikaanse overheid dat is opgezet om te testen of geavanceerde systemen complexe cyberoperaties kunnen uitvoeren.

Adviseurs van de regering-Trump hebben het besluit meegedeeld tijdens een bijeenkomst in het Witte Huis op 4 augustus, die werd bijgewoond door vertegenwoordigers van Meta, Google, Nvidia, OpenAI en Anthropic, aldus Reuters.

Federaal programma zal zich richten op propriëtaire AI-modellen

Het vrijwillige testkader volgt op een presidentieel decreet van 2 juni dat federale agentschappen opdroeg geclassificeerde benchmarks te creëren voor geavanceerde AI-cyberbeveiligingscapaciteiten.

Ambtenaren willen vaststellen of frontiermodellen complexe cyberoperaties kunnen uitvoeren die overheidssystemen, kritieke infrastructuur of particuliere organisaties kunnen bedreigen.

Eerdere gesprekken hebben naar verluidt de afspraken afgerond voor het testen van krachtige propriëtaire systemen, waaronder Anthropic’s Mythos- en Fable-modellen en OpenAI’s GPT-5.6 Sol.

Het huidige kader zal open-weight modellen echter naar verluidt uitsluiten. Deze systemen stellen ontwikkelaars in staat om de onderliggende modelgewichten te downloaden, inspecteren, wijzigen en implementeren in plaats van dat ze er alleen via een door het bedrijf beheerde dienst toegang toe hebben.

Uitsluiting van open-weight kan een beveiligingskloof achterlaten

De gerapporteerde uitzondering kan een aanzienlijke lacune in het evaluatiesysteem van de federale overheid creëren.

Open-weight modellen kunnen zich snel verspreiden omdat individuen en organisaties ze kunnen kopiëren en wijzigen zonder te vertrouwen op de infrastructuur van de oorspronkelijke ontwikkelaar. Ontwikkelaars kunnen ook ingebouwde veiligheidsmaatregelen verwijderen, modellen verfijnen voor gespecialiseerde taken of ze privé draaien.

Een zeer krachtig open-weight model kan daardoor een groot aantal gebruikers bereiken zonder dezelfde federale cyberbeveiligingstests te ondergaan als propriëtaire frontiermodellen.

De overheid heeft niet verduidelijkt of de uitsluiting elke open-weight release omvat of alleen modellen die onder een bepaalde capaciteitsdrempel vallen.

Anthropic heeft onlangs gezegd dat het een verbod op open-weight AI-modellen niet steunt, ondanks herhaaldelijke waarschuwingen dat geavanceerde AI-systemen ernstige cyberbeveiligings- en nationale veiligheidsrisico’s kunnen creëren.

Belangrijke details over het programma blijven onduidelijk

Het Witte Huis heeft niet bekendgemaakt welk federaal agentschap het testprogramma zal uitvoeren of de toegang tot de geclassificeerde benchmarks zal beheren.

Ambtenaren hebben ook niet uitgelegd of ze eventuele evaluatieresultaten zullen publiceren. Het geheim houden van de bevindingen kan helpen om gevoelige testmethoden te beschermen, maar het zou onderzoekers en het publiek weinig informatie geven over de tijdens de beoordelingen ontdekte capaciteiten.

De regering heeft niet bekendgemaakt met welke consequenties een bedrijf te maken kan krijgen als zijn model gevaarlijke cybercapaciteiten vertoont. Het vrijwillige karakter van het programma roept ook vragen op of ontwikkelaars aanvullende tests kunnen weigeren of een model kunnen blijven uitbrengen na zorgwekkende resultaten.

Ambtenaren zouden uiteindelijk een apart kader voor open-weight systemen kunnen creëren, hoewel een dergelijk programma nog niet is aangekondigd.

Het besluit komt op een moment dat overheden en AI-bedrijven onderzoeken hoe autonome agents met echte systemen interacteren. In een ander geval richtten agents van OpenAI en Anthropic zich op echte mensen tijdens cyberbeveiligingstests, wat de risico’s onderstreept die kunnen ontstaan wanneer geavanceerde modellen buiten gecontroleerde omgevingen opereren.