VS sluit naar verluidt Open-Weight AI-modellen uit van cybertests

Open-weight AI-modellen blijven naar verluidt buiten een nieuw Amerikaans overheidsprogramma dat is ontworpen om te testen of geavanceerde systemen geavanceerde cyberoperaties kunnen uitvoeren.

Adviseurs van de regering-Trump hebben het besluit meegedeeld tijdens een bijeenkomst in het Witte Huis op 4 augustus, die werd bijgewoond door vertegenwoordigers van Meta, Google, Nvidia, OpenAI en Anthropic, volgens Reuters.

Federaal programma richt zich op propriëtaire AI-modellen

Het vrijwillige testkader volgt op een presidentieel decreet van 2 juni dat federale agentschappen opdroeg geclassificeerde benchmarks te ontwikkelen voor geavanceerde AI-cyberbeveiligingsmogelijkheden.

Ambtenaren willen bepalen of frontiermodellen complexe cyberoperaties kunnen uitvoeren die een bedreiging kunnen vormen voor overheidssystemen, kritieke infrastructuur of particuliere organisaties.

Eerdere besprekingen hebben naar verluidt de regelingen afgerond voor het testen van krachtige propriëtaire systemen, waaronder Anthropic’s Mythos- en Fable-modellen en OpenAI’s GPT-5.6 Sol.

Het huidige kader zal echter naar verluidt open-weight modellen uitsluiten. Deze systemen stellen ontwikkelaars in staat de onderliggende modelgewichten te downloaden, te inspecteren, aan te passen en in te zetten, in plaats van ze alleen via een door het bedrijf beheerde dienst te benaderen.

Uitsluiting van open-weight zou een veiligheidskloof kunnen achterlaten

De gerapporteerde vrijstelling zou een aanzienlijke kloof kunnen slaan in het evaluatiesysteem van de federale overheid.

Open-weight modellen kunnen zich snel verspreiden omdat individuen en organisaties ze kunnen kopiëren en aanpassen zonder afhankelijk te zijn van de infrastructuur van de oorspronkelijke ontwikkelaar. Ontwikkelaars kunnen ook ingebouwde beveiligingen verwijderen, modellen verfijnen voor gespecialiseerde taken, of ze privé draaien.

Een zeer capabel open-weight model zou daardoor een groot aantal gebruikers kunnen bereiken zonder dezelfde federale cyberbeveiligingstests te ondergaan als propriëtaire frontiermodellen.

De overheid heeft niet verduidelijkt of de uitsluiting elke open-weight release betreft of alleen modellen die onder een bepaalde capaciteitsdrempel vallen.

Anthropic heeft onlangs verklaard geen voorstander te zijn van een verbod op open-weight AI-modellen, ondanks herhaalde waarschuwingen dat geavanceerde AI-systemen ernstige risico’s voor cyberbeveiliging en nationale veiligheid kunnen creëren.

Belangrijke details over het programma blijven onduidelijk

Het Witte Huis heeft niet bekendgemaakt welk federaal agentschap het testprogramma zal uitvoeren of de toegang tot de geclassificeerde benchmarks zal beheren.

Ambtenaren hebben ook niet uitgelegd of zij evaluatieresultaten zullen publiceren. Het geheim houden van de bevindingen zou gevoelige testmethoden kunnen helpen beschermen, maar zou onderzoekers en het publiek weinig informatie geven over de tijdens de beoordelingen ontdekte capaciteiten.

De regering heeft niet bekendgemaakt welke gevolgen een bedrijf kan ondervinden als zijn model gevaarlijke cybercapaciteiten vertoont. Het vrijwillige karakter van het programma roept ook vragen op of ontwikkelaars aanvullende tests kunnen weigeren of een model kunnen blijven uitbrengen na zorgwekkende resultaten.

Ambtenaren zouden uiteindelijk een apart kader kunnen creëren voor open-weight systemen, hoewel er nog geen dergelijk programma is aangekondigd.

Het besluit komt op het moment dat overheden en AI-bedrijven onderzoeken hoe autonome agenten met echte systemen omgaan. In een afzonderlijke zaak richtten OpenAI- en Anthropic-agenten zich op echte mensen tijdens cyberbeveiligingstests, wat de risico’s benadrukt die kunnen ontstaan wanneer geavanceerde modellen buiten gecontroleerde omgevingen opereren.