USA utesluter enligt uppgift open-weight AI-modeller från cybertester

AI-modeller med öppen vikt kommer enligt uppgift att förbli utanför ett nytt amerikanskt regeringsprogram som är utformat för att testa om avancerade system kan utföra sofistikerade cyberoperationer.

Rådgivare i Trump-administrationen meddelade beslutet under ett möte i Vita huset den 4 augusti där representanter från Meta, Google, Nvidia, OpenAI och Anthropic deltog, enligt Reuters.

Federalt program kommer att fokusera på proprietära AI-modeller

Det frivilliga testramverket följer en presidentorder från den 2 juni som gav federala myndigheter i uppdrag att skapa hemligstämplade riktmärken för avancerad AI-cybersäkerhetskapacitet.

Tjänstemännen vill avgöra om frontiermodeller kan utföra komplexa cyberoperationer som skulle kunna hota myndighetssystem, kritisk infrastruktur eller privata organisationer.

Tidigare diskussioner slutförde enligt uppgift arrangemangen för att testa kraftfulla proprietära system, inklusive Anthropics Mythos- och Fable-modeller och OpenAI:s GPT-5.6 Sol.

Det nuvarande ramverket kommer dock enligt uppgift att utesluta modeller med öppen vikt. Dessa system låter utvecklare ladda ned, inspektera, modifiera och driftsätta sina underliggande modellvikter i stället för att bara få tillgång till dem via en företagskontrollerad tjänst.

Uteslutningen av öppen vikt kan lämna en säkerhetslucka

Det rapporterade undantaget skulle kunna skapa en betydande lucka i den federala regeringens utvärderingssystem.

Modeller med öppen vikt kan spridas snabbt eftersom individer och organisationer kan kopiera och modifiera dem utan att förlita sig på den ursprungliga utvecklarens infrastruktur. Utvecklare kan också ta bort inbyggda säkerhetsspärrar, finjustera modeller för specialiserade uppgifter eller köra dem privat.

En mycket kapabel modell med öppen vikt skulle därför kunna nå ett stort antal användare utan att genomgå samma federala cybersäkerhetstester som proprietära frontiermodeller.

Regeringen har inte klargjort om uteslutningen omfattar varje version med öppen vikt eller endast modeller som ligger under en viss kapacitetströskel.

Anthropic sa nyligen att de inte stöder ett förbud mot AI-modeller med öppen vikt, trots att de upprepade gånger varnat för att avancerade AI-system kan innebära allvarliga cybersäkerhets- och nationella säkerhetsrisker.

Viktiga detaljer om programmet är fortfarande oklara

Vita huset har inte identifierat vilken federal myndighet som ska driva testprogrammet eller hantera tillgången till de hemligstämplade riktmärkena.

Tjänstemännen har inte heller förklarat om de kommer att publicera några utvärderingsresultat. Att hålla resultaten hemligstämplade skulle kunna bidra till att skydda känsliga testmetoder, men det skulle ge forskare och allmänheten lite information om de förmågor som upptäcktes under utvärderingarna.

Administrationen har inte offentliggjort vilka konsekvenser ett företag kan möta om dess modell uppvisar farliga cyberförmågor. Programmets frivilliga karaktär väcker också frågor om huruvida utvecklare kan avböja ytterligare testning eller fortsätta att släppa en modell efter oroande resultat.

Tjänstemännen skulle så småningom kunna skapa ett separat ramverk för system med öppen vikt, även om inget sådant program har meddelats.

Beslutet kommer samtidigt som regeringar och AI-företag undersöker hur autonoma agenter interagerar med verkliga system. I ett separat fall riktade sig agenter från OpenAI och Anthropic mot verkliga personer under cybersäkerhetstester, vilket belyser riskerna som kan uppstå när avancerade modeller används utanför kontrollerade miljöer.