VS sluit open-weight AI-modellen naar verluidt uit van cybertests

Open-weight AI-modellen blijven naar verluidt buiten een nieuw Amerikaans overheidsprogramma dat moet testen of geavanceerde systemen geavanceerde cyberoperaties kunnen uitvoeren.

Adviseurs van de Trump-regering communiceerden het besluit tijdens een bijeenkomst op 4 augustus in het Witte Huis, bijgewoond door vertegenwoordigers van Meta, Google, Nvidia, OpenAI en Anthropic, volgens Reuters.

Federaal programma zal zich richten op propriëtaire AI-modellen

Het vrijwillige testkader volgt op een presidentieel besluit van 2 juni dat federale instanties opdracht gaf geclassificeerde benchmarks te creëren voor geavanceerde AI-cyberbeveiligingsmogelijkheden.

Functionarissen willen vaststellen of frontiermodellen complexe cyberoperaties kunnen uitvoeren die een bedreiging kunnen vormen voor overheidssystemen, kritieke infrastructuur of particuliere organisaties.

Eerdere besprekingen hebben naar verluidt de afspraken voor het testen van krachtige propriëtaire systemen afgerond, waaronder de Mythos- en Fable-modellen van Anthropic en GPT-5.6 Sol van OpenAI.

Het huidige kader zal naar verluidt echter open-weight modellen uitsluiten. Deze systemen staan ontwikkelaars toe de onderliggende modelgewichten te downloaden, inspecteren, aanpassen en implementeren, in plaats van er alleen via een door het bedrijf beheerde dienst toegang toe te krijgen.

Uitsluiting van open-weight kan een veiligheidslek opleveren

De gemelde vrijstelling kan een aanzienlijk gat creëren in het evaluatiesysteem van de federale overheid.

Open-weight modellen kunnen zich snel verspreiden omdat individuen en organisaties ze kunnen kopiëren en aanpassen zonder afhankelijk te zijn van de infrastructuur van de oorspronkelijke ontwikkelaar. Ontwikkelaars kunnen ook ingebouwde beveiligingen verwijderen, modellen verfijnen voor gespecialiseerde taken of ze privé uitvoeren.

Een zeer capabel open-weight model zou daardoor een groot aantal gebruikers kunnen bereiken zonder dezelfde federale cyberbeveiligingstests te ondergaan als propriëtaire frontiermodellen.

De overheid heeft niet verduidelijkt of de uitsluiting elke open-weight release omvat of alleen modellen die onder een bepaalde capaciteitsdrempel vallen.

Anthropic zei onlangs geen voorstander te zijn van een verbod op open-weight AI-modellen, ondanks herhaalde waarschuwingen dat geavanceerde AI-systemen ernstige risico’s voor cyberbeveiliging en nationale veiligheid kunnen creëren.

Belangrijke details over het programma blijven onduidelijk

Het Witte Huis heeft niet aangegeven welke federale instantie het testprogramma zal uitvoeren of de toegang tot de geclassificeerde benchmarks zal beheren.

Functionarissen hebben ook niet uitgelegd of ze evaluatieresultaten zullen publiceren. Het geclassificeerd houden van de bevindingen kan helpen gevoelige testmethoden te beschermen, maar het zou onderzoekers en het publiek weinig informatie geven over de tijdens de evaluaties ontdekte capaciteiten.

De regering heeft niet bekendgemaakt met welke gevolgen een bedrijf te maken kan krijgen als zijn model gevaarlijke cybercapaciteiten vertoont. Het vrijwillige karakter van het programma roept ook vragen op over de vraag of ontwikkelaars extra testen kunnen weigeren of een model na zorgwekkende resultaten kunnen blijven uitbrengen.

Functionarissen zouden uiteindelijk een apart kader voor open-weight systemen kunnen creëren, hoewel een dergelijk programma niet is aangekondigd.

Het besluit komt terwijl overheden en AI-bedrijven onderzoeken hoe autonome agenten met echte systemen omgaan. In een aparte zaak richtten agenten van OpenAI en Anthropic zich tijdens cyberbeveiligingstests op echte mensen, wat de risico’s benadrukt die kunnen ontstaan wanneer geavanceerde modellen buiten gecontroleerde omgevingen opereren.