VS sluit naar verluidt open-weight AI-modellen uit van cybertests

Open-weight AI-modellen blijven naar verluidt buiten een nieuw Amerikaans overheidsprogramma dat moet testen of geavanceerde systemen geavanceerde cyberoperaties kunnen uitvoeren.

Adviseurs van de Trump-regering hebben het besluit op 4 augustus gecommuniceerd tijdens een bijeenkomst in het Witte Huis waar vertegenwoordigers van Meta, Google, Nvidia, OpenAI en Anthropic aanwezig waren, aldus Reuters.

Federaal programma richt zich op propriëtaire AI-modellen

Het vrijwillige testkader volgt op een uitvoeringsbesluit van 2 juni dat federale instanties opdroeg om geclassificeerde benchmarks te ontwikkelen voor geavanceerde AI-cyberbeveiligingscapaciteiten.

Ambtenaren willen vaststellen of grensverleggende modellen complexe cyberoperaties kunnen uitvoeren die overheidssystemen, kritieke infrastructuur of particuliere organisaties in gevaar kunnen brengen.

Eerdere besprekingen hebben naar verluidt de regelingen afgerond voor het testen van krachtige propriëtaire systemen, waaronder de Mythos- en Fable-modellen van Anthropic en OpenAI’s GPT-5.6 Sol.

Het huidige kader zal open-weight-modellen echter naar verluidt uitsluiten. Bij deze systemen kunnen ontwikkelaars de onderliggende modelgewichten downloaden, inspecteren, wijzigen en inzetten in plaats van ze alleen via een door het bedrijf gecontroleerde dienst te gebruiken.

Uitsluiting van open-weight kan een beveiligingslek veroorzaken

De gemelde uitzondering kan een aanzienlijke lacune veroorzaken in het evaluatiesysteem van de federale overheid.

Open-weight-modellen kunnen zich snel verspreiden omdat individuen en organisaties ze kunnen kopiëren en aanpassen zonder afhankelijk te zijn van de infrastructuur van de oorspronkelijke ontwikkelaar. Ontwikkelaars kunnen ook ingebouwde beveiligingen verwijderen, modellen verfijnen voor gespecialiseerde taken of ze privé draaien.

Een zeer capabel open-weight-model kan daardoor een groot aantal gebruikers bereiken zonder dezelfde federale cyberbeveiligingstests te ondergaan als propriëtaire grensverleggende systemen.

De overheid heeft niet verduidelijkt of de uitsluiting van toepassing is op elke open-weight-release of alleen op modellen die onder een bepaalde capaciteitsdrempel vallen.

Anthropic liet onlangs weten geen voorstander te zijn van een verbod op open-weight AI-modellen, hoewel het bedrijf herhaaldelijk heeft gewaarschuwd dat geavanceerde AI-systemen ernstige risico’s voor cyberbeveiliging en nationale veiligheid kunnen opleveren.

Belangrijke details over het programma blijven onduidelijk

Het Witte Huis heeft niet bekendgemaakt welke federale instantie het testprogramma zal uitvoeren of de toegang tot de geclassificeerde benchmarks zal beheren.

Ambtenaren hebben ook niet uitgelegd of zij evaluatieresultaten zullen publiceren. Het classificeren van de bevindingen kan helpen gevoelige testmethoden te beschermen, maar zou onderzoekers en het publiek weinig informatie geven over de tijdens de beoordelingen ontdekte mogelijkheden.

De regering heeft niet onthuld welke gevolgen een bedrijf kan ondervinden als zijn model gevaarlijke cybercapaciteiten vertoont. Het vrijwillige karakter van het programma roept ook vragen op over de vraag of ontwikkelaars aanvullende tests kunnen weigeren of een model kunnen blijven uitbrengen na zorgwekkende resultaten.

Ambtenaren zouden uiteindelijk een apart kader voor open-weight-systemen kunnen creëren, hoewel een dergelijk programma nog niet is aangekondigd.

Het besluit komt op een moment dat overheden en AI-bedrijven onderzoeken hoe autonome agenten omgaan met echte systemen. In een andere zaak richtten agenten van OpenAI en Anthropic zich tijdens cyberbeveiligingstests op echte mensen, wat de risico’s benadrukt die kunnen ontstaan wanneer geavanceerde modellen buiten gecontroleerde omgevingen opereren.