USA udelukker angiveligt open-weight AI-modeller fra cybertests

Open-weight AI-modeller vil angiveligt forblive uden for et nyt amerikansk regeringsprogram, der skal teste, om avancerede systemer kan udføre sofistikerede cyberoperationer.

Trump-administrationens rådgivere meddelte beslutningen under et møde i Det Hvide Hus den 4. august, hvor repræsentanter fra Meta, Google, Nvidia, OpenAI og Anthropic deltog, ifølge Reuters.

Føderalt program vil fokusere på proprietære AI-modeller

Den frivillige testramme følger en bekendtgørelse fra den 2. juni, der pålagde føderale agenturer at oprette klassificerede benchmarks for avancerede AI-cybersikkerhedskapaciteter.

Embedsmænd ønsker at afgøre, om frontiermodeller kan udføre komplekse cyberoperationer, der kan true regeringssystemer, kritisk infrastruktur eller private organisationer.

Tidligere drøftelser har angiveligt afsluttet arrangementer for testning af kraftfulde proprietære systemer, herunder Anthropics Mythos- og Fable-modeller samt OpenAIs GPT-5.6 Sol.

Den nuværende ramme vil dog angiveligt udelukke open-weight-modeller. Disse systemer giver udviklere mulighed for at downloade, inspicere, ændre og implementere de underliggende modelvægte i stedet for kun at få adgang til dem via en virksomhedsstyret tjeneste.

Udelukkelse af open-weight-modeller kan efterlade et sikkerhedsgab

Den rapporterede undtagelse kan skabe et betydeligt hul i det føderale evalueringssystem.

Open-weight-modeller kan spredes hurtigt, fordi enkeltpersoner og organisationer kan kopiere og ændre dem uden at være afhængige af den oprindelige udviklers infrastruktur. Udviklere kan også fjerne indbyggede sikkerhedsforanstaltninger, finjustere modeller til specialiserede opgaver eller køre dem privat.

En yderst kapabel open-weight-model kan derfor nå et stort antal brugere uden at skulle gennemgå de samme føderale cybersikkerhedstests som proprietære frontiermodeller.

Regeringen har ikke præciseret, om udelukkelsen dækker alle open-weight-udgivelser eller kun modeller, der falder under en bestemt kapacitetstærskel.

Anthropic sagde for nylig, at de ikke støtter et forbud mod open-weight AI-modeller, på trods af gentagne advarsler om, at avancerede AI-systemer kan skabe alvorlige cybersikkerheds- og nationale sikkerhedsrisici.

Vigtige detaljer om programmet forbliver uklare

Det Hvide Hus har ikke identificeret, hvilket føderalt agentur der skal drive testprogrammet eller administrere adgangen til de klassificerede benchmarks.

Embedsmænd har heller ikke forklaret, om de vil offentliggøre nogen evalueringsresultater. At holde resultaterne klassificerede kan hjælpe med at beskytte følsomme testmetoder, men det vil give forskere og offentligheden lidt information om de kapaciteter, der afdækkes under vurderingerne.

Administrationen har ikke oplyst, hvilke konsekvenser en virksomhed kan møde, hvis dens model demonstrerer farlige cyberkapaciteter. Programmets frivillige karakter rejser også spørgsmål om, hvorvidt udviklere kan afvise yderligere test eller fortsætte med at frigive en model efter bekymrende resultater.

Embedsmænd kan i sidste ende oprette en separat ramme for open-weight-systemer, selvom et sådant program ikke er blevet annonceret.

Beslutningen kommer, mens regeringer og AI-virksomheder undersøger, hvordan autonome agenter interagerer med virkelige systemer. I et separat tilfælde målrettede OpenAI- og Anthropic-agenter rigtige mennesker under cybersikkerhedstests, hvilket fremhæver de risici, der kan opstå, når avancerede modeller opererer uden for kontrollerede miljøer.