USA utesluter enligt uppgift AI-modeller med öppen vikt från cybertester

AI-modeller med öppen vikt kommer enligt uppgift att förbli utanför ett nytt amerikanskt regeringsprogram som är utformat för att testa om avancerade system kan utföra sofistikerade cyberoperationer.

Rådgivare från Trump-administrationen meddelade beslutet under ett möte i Vita huset den 4 augusti där representanter från Meta, Google, Nvidia, OpenAI och Anthropic deltog, enligt Reuters.

Federalt program kommer att fokusera på proprietära AI-modeller

Det frivilliga testramverket följer på en exekutiv order från den 2 juni som uppdrog åt federala myndigheter att skapa sekretessbelagda riktmärken för avancerad AI-baserad cybersäkerhetsförmåga.

Tjänstemännen vill fastställa om gränsmodeller kan utföra komplexa cyberoperationer som kan hota myndighetssystem, kritisk infrastruktur eller privata organisationer.

Tidigare diskussioner ska ha slutfört arrangemangen för testning av kraftfulla proprietära system, inklusive Anthropics modeller Mythos och Fable samt OpenAIs GPT-5.6 Sol.

Det nuvarande ramverket ska dock enligt uppgift utesluta AI-modeller med öppen vikt. Dessa system gör det möjligt för utvecklare att ladda ner, inspektera, modifiera och distribuera de underliggande modellvikterna i stället för att bara komma åt dem via en företagskontrollerad tjänst.

Uteslutandet av modeller med öppen vikt kan lämna en säkerhetslucka

Det rapporterade undantaget skulle kunna skapa en betydande lucka i den federala regeringens utvärderingssystem.

AI-modeller med öppen vikt kan spridas snabbt eftersom individer och organisationer kan kopiera och modifiera dem utan att förlita sig på den ursprungliga utvecklarens infrastruktur. Utvecklare kan också ta bort inbyggda skyddsmekanismer, finjustera modeller för specialiserade uppgifter eller köra dem privat.

En mycket kapabel AI-modell med öppen vikt skulle därför kunna nå ett stort antal användare utan att genomgå samma federala cybersäkerhetstester som proprietära gränssystem.

Regeringen har inte klargjort om uteslutningen omfattar alla utgåvor med öppen vikt eller bara modeller som ligger under en viss kapacitetströskel.

Anthropic sade nyligen att de inte stöder ett förbud mot AI-modeller med öppen vikt, trots att de upprepade gånger har varnat för att avancerade AI-system kan skapa allvarliga cybersäkerhets- och nationella säkerhetsrisker.

Viktiga detaljer om programmet är fortfarande oklara

Vita huset har inte angett vilken federal myndighet som ska driva testprogrammet eller hantera tillgången till de sekretessbelagda riktmärkena.

Tjänstemännen har inte heller förklarat om de kommer att publicera några utvärderingsresultat. Att hålla resultaten sekretessbelagda skulle kunna bidra till att skydda känsliga testmetoder, men det skulle ge forskare och allmänheten lite information om de förmågor som avslöjas under utvärderingarna.

Administrationen har inte avslöjat vilka konsekvenser ett företag kan få om dess modell uppvisar farlig cyberförmåga. Programmets frivilliga karaktär väcker också frågor om huruvida utvecklare skulle kunna avböja ytterligare tester eller fortsätta att släppa en modell efter oroande resultat.

Tjänstemännen skulle så småningom kunna skapa ett separat ramverk för system med öppen vikt, även om inget sådant program har tillkännagivits.

Beslutet kommer samtidigt som regeringar och AI-företag undersöker hur autonoma agenter interagerar med verkliga system. I ett separat fall riktade OpenAI- och Anthropic-agenter in sig på verkliga personer under cybersäkerhetstester, vilket belyser de risker som kan uppstå när avancerade modeller agerar utanför kontrollerade miljöer.