VS sluiten naar verluidt open-weight AI-modellen uit van cyberveiligheidstests

Open-weight AI-modellen blijven naar verluidt buiten een nieuw Amerikaans overheidsprogramma dat moet testen of geavanceerde systemen geavanceerde cyberoperaties kunnen uitvoeren.

Adviseurs van de regering Trump deelden het besluit mee tijdens een bijeenkomst in het Witte Huis op 4 augustus, bijgewoond door vertegenwoordigers van Meta, Google, Nvidia, OpenAI en Anthropic, volgens Reuters.

Federaal programma richt zich op propriëtaire AI-modellen

Het vrijwillige testkader volgt op een presidentieel decreet van 2 juni dat federale instanties opdroeg geclassificeerde benchmarks te maken voor geavanceerde AI-cyberbeveiligingsmogelijkheden.

Functionarissen willen bepalen of geavanceerde modellen complexe cyberoperaties kunnen uitvoeren die overheidsystemen, kritieke infrastructuur of particuliere organisaties kunnen bedreigen.

Eerdere besprekingen hebben naar verluidt de afspraken afgerond voor het testen van krachtige propriëtaire systemen, waaronder Anthropics Mythos- en Fable-modellen en OpenAI’s GPT-5.6 Sol.

Het huidige kader zal naar verluidt echter open-weight modellen uitsluiten. Deze systemen stellen ontwikkelaars in staat de onderliggende modelgewichten te downloaden, inspecteren, aanpassen en implementeren in plaats van ze alleen via een door het bedrijf beheerde dienst te gebruiken.

Uitsluiting van open-weight modellen kan een beveiligingslek achterlaten

De gerapporteerde vrijstelling kan een aanzienlijke lacune in het evaluatiesysteem van de federale overheid creëren.

Open-weight modellen kunnen zich snel verspreiden omdat individuen en organisaties ze kunnen kopiëren en aanpassen zonder afhankelijk te zijn van de infrastructuur van de oorspronkelijke ontwikkelaar. Ontwikkelaars kunnen ook ingebouwde beveiligingen verwijderen, modellen verfijnen voor gespecialiseerde taken of ze privé uitvoeren.

Een zeer capabel open-weight model zou dus een groot aantal gebruikers kunnen bereiken zonder dezelfde federale cyberveiligheidstests te ondergaan als propriëtaire geavanceerde systemen.

De regering heeft niet verduidelijkt of de uitsluiting geldt voor elke open-weight release of alleen voor modellen die onder een bepaalde capaciteitsdrempel vallen.

Anthropic heeft onlangs gezegd het verbod op open-weight AI-modellen niet te steunen, ondanks herhaalde waarschuwingen dat geavanceerde AI-systemen ernstige cyberveiligheids- en nationale veiligheidsrisico’s kunnen opleveren.

Belangrijke details over het programma blijven onduidelijk

Het Witte Huis heeft niet aangegeven welk federaal agentschap het testprogramma zal uitvoeren of de toegang tot de geclassificeerde benchmarks zal beheren.

Functionarissen hebben ook niet uitgelegd of ze evaluatieresultaten zullen publiceren. De bevindingen geclassificeerd houden kan gevoelige testmethoden helpen beschermen, maar het geeft onderzoekers en het publiek weinig informatie over de tijdens de beoordelingen blootgelegde capaciteiten.

De regering heeft niet bekendgemaakt welke gevolgen een bedrijf kan ondervinden als zijn model gevaarlijke cybercapaciteiten vertoont. Het vrijwillige karakter van het programma roept ook vragen op of ontwikkelaars aanvullende tests kunnen weigeren of een model kunnen blijven uitbrengen na zorgwekkende resultaten.

Functionarissen zouden uiteindelijk een apart kader voor open-weight systemen kunnen creëren, hoewel een dergelijk programma niet is aangekondigd.

Het besluit komt op een moment dat overheden en AI-bedrijven onderzoeken hoe autonome agenten met echte systemen omgaan. In een aparte zaak richtten agenten van OpenAI en Anthropic zich op echte mensen tijdens cyberveiligheidstests, wat de risico’s benadrukt die kunnen ontstaan wanneer geavanceerde modellen buiten gecontroleerde omgevingen opereren.