USA utesluter enligt uppgift AI-modeller med öppna vikter från cybertester

AI-modeller med öppen vikt kommer enligt uppgift att hållas utanför ett nytt amerikanskt myndighetsprogram som är utformat för att testa om avancerade system kan utföra sofistikerade cyberoperationer.

Trumpadministrationens rådgivare meddelade beslutet under ett möte i Vita huset den 4 augusti där representanter från Meta, Google, Nvidia, OpenAI och Anthropic deltog, enligt Reuters.

Federala programmet ska fokusera på proprietära AI-modeller

Det frivilliga testramverket följer på en presidentorder från den 2 juni som gav federala myndigheter i uppdrag att skapa sekretessbelagda riktmärken för avancerad AI-kapacitet inom cybersäkerhet.

Tjänstemän vill avgöra om de främsta modellerna kan utföra komplexa cyberoperationer som skulle kunna hota myndighetssystem, kritisk infrastruktur eller privata organisationer.

Tidigare diskussioner slutförde enligt uppgift arrangemangen för att testa kraftfulla proprietära system, däribland Anthropics modeller Mythos och Fable samt OpenAI:s GPT-5.6 Sol.

Det nuvarande ramverket kommer dock enligt uppgift att utesluta modeller med öppen vikt. Dessa system gör det möjligt för utvecklare att ladda ner, granska, ändra och driftsätta modellernas underliggande vikter i stället för att bara få tillgång till dem via en företagskontrollerad tjänst.

Uteslutning av modeller med öppen vikt kan skapa en säkerhetslucka

Den rapporterade undantagsregeln kan skapa en betydande lucka i den federala regeringens utvärderingssystem.

Modeller med öppen vikt kan spridas snabbt eftersom enskilda personer och organisationer kan kopiera och modifiera dem utan att vara beroende av den ursprungliga utvecklarens infrastruktur. Utvecklare kan också ta bort inbyggda skyddsmekanismer, finjustera modellerna för specialiserade uppgifter eller köra dem privat.

En modell med öppen vikt och hög förmåga skulle därmed kunna nå ett stort antal användare utan att genomgå samma federala cybersäkerhetstester som proprietära modeller i framkant.

Regeringen har inte klargjort om uteslutningen omfattar varje lansering av en modell med öppen vikt eller endast modeller som hamnar under en viss kapacitetströskel.

Anthropic sa nyligen att de inte stöder ett förbud mot AI-modeller med öppen vikt, trots att de upprepade gånger har varnat för att avancerade AI-system kan skapa allvarliga risker för cybersäkerhet och nationell säkerhet.

Viktiga detaljer om programmet är fortfarande oklara

Vita huset har inte angett vilken federal myndighet som kommer att driva testprogrammet eller hantera tillgången till de sekretessbelagda riktmärkena.

Tjänstemän har inte heller förklarat om de kommer att offentliggöra några utvärderingsresultat. Att hålla resultaten hemliga kan bidra till att skydda känsliga testmetoder, men det skulle ge forskare och allmänheten lite information om vilka förmågor som upptäcks under bedömningarna.

Regeringen har inte avslöjat vilka konsekvenser ett företag kan få om dess modell uppvisar farlig cyberkapacitet. Programfrivilligheten väcker också frågor om huruvida utvecklare kan avböja ytterligare tester eller fortsätta att lansera en modell efter oroväckande resultat.

Tjänstemän kan så småningom skapa ett separat ramverk för system med öppen vikt, även om inget sådant program har tillkännagivits.

Beslutet kommer i en tid när regeringar och AI-företag undersöker hur autonoma agenter interagerar med verkliga system. I ett separat fall riktade agenter från OpenAI och Anthropic in sig på verkliga personer under cybersäkerhetstester, vilket belyste de risker som kan uppstå när avancerade modeller agerar bortom kontrollerade miljöer.