USA utesluter enligt uppgift AI-modeller med öppen vikt från cybertester

AI-modeller med öppen vikt kommer enligt uppgift att förbli utanför ett nytt amerikanskt regeringsprogram som utformats för att testa om avancerade system kan genomföra sofistikerade cyberoperationer.

Rådgivare till Trump-administrationen meddelade beslutet under ett möte i Vita huset den 4 augusti där representanter från Meta, Google, Nvidia, OpenAI och Anthropic deltog, enligt Reuters.

Federala programmet kommer att fokusera på proprietära AI-modeller

Det frivilliga testramverket följer på en presidentorder från den 2 juni som instruerade federala myndigheter att skapa hemligstämplade riktmärken för avancerade AI-säkerhetsfunktioner inom cybersäkerhet.

Tjänstemän vill avgöra om frontiermodeller kan utföra komplexa cyberoperationer som kan hota statliga system, kritisk infrastruktur eller privata organisationer.

Tidigare diskussioner slutförde enligt uppgift arrangemangen för att testa kraftfulla proprietära system, inklusive Anthropics Mythos- och Fable-modeller samt OpenAI:s GPT-5.6 Sol.

Det nuvarande ramverket kommer dock enligt uppgift att utesluta modeller med öppen vikt. Dessa system gör det möjligt för utvecklare att ladda ner, inspektera, modifiera och distribuera deras underliggande modellvikter istället för att endast komma åt dem via en företagskontrollerad tjänst.

Uteslutandet av öppen vikt kan skapa en säkerhetslucka

Det rapporterade undantaget skulle kunna skapa en betydande lucka i den federala regeringens utvärderingssystem.

Modeller med öppen vikt kan spridas snabbt eftersom individer och organisationer kan kopiera och modifiera dem utan att förlita sig på den ursprungliga utvecklarens infrastruktur. Utvecklare kan också ta bort inbyggda skyddsmekanismer, finjustera modeller för specialiserade uppgifter eller köra dem privat.

En mycket kapabel modell med öppen vikt skulle därför kunna nå ett stort antal användare utan att genomgå samma federala cybersäkerhetstester som proprietära frontiermodeller.

Regeringen har inte klargjort om uteslutningen omfattar alla utgåvor med öppen vikt eller endast modeller som ligger under en viss kapacitetsgräns.

Anthropic sade nyligen att de inte stöder ett förbud mot AI-modeller med öppen vikt, trots upprepade varningar om att avancerade AI-system kan skapa allvarliga cybersäkerhets- och nationella säkerhetsrisker.

Viktiga detaljer om programmet förblir oklara

Vita huset har inte angett vilken federal myndighet som kommer att driva testprogrammet eller hantera tillgången till de hemligstämplade riktmärkena.

Tjänstemän har heller inte förklarat om de kommer att offentliggöra några utvärderingsresultat. Att hålla resultaten hemligstämplade kan bidra till att skydda känsliga testmetoder, men det skulle ge forskare och allmänheten lite information om de kapaciteter som upptäcks under utvärderingarna.

Administrationen har inte avslöjat vilka konsekvenser ett företag kan drabbas av om dess modell uppvisar farliga cyberkapaciteter. Programmets frivilliga karaktär väcker också frågor om huruvida utvecklare kan tacka nej till ytterligare tester eller fortsätta att släppa en modell efter oroande resultat.

Tjänstemän kan så småningom skapa ett separat ramverk för system med öppen vikt, även om inget sådant program har meddelats.

Beslutet kommer i en tid då regeringar och AI-företag granskar hur autonoma agenter interagerar med verkliga system. I ett separat fall riktade OpenAI:s och Anthropics agenter in sig på verkliga människor under cybersäkerhetstester, vilket belyser de risker som kan uppstå när avancerade modeller verkar utanför kontrollerade miljöer.