USA udelukker angiveligt Open-Weight AI-modeller fra cyber-tests

Open-weight AI-modeller vil angiveligt forblive uden for et nyt amerikansk regeringsprogram, der er designet til at teste, om avancerede systemer kan udføre sofistikerede cyberoperationer.

Rådgivere fra Trump-administrationen meddelte beslutningen under et møde i Det Hvide Hus den 4. august, hvor repræsentanter fra Meta, Google, Nvidia, OpenAI og Anthropic deltog, ifølge Reuters.

Føderalt program vil fokusere på proprietære AI-modeller

Den frivillige testramme følger en bekendtgørelse fra den 2. juni, der pålagde føderale agenturer at oprette klassificerede benchmarks for avancerede AI-cybersikkerhedskapaciteter.

Embedsmænd ønsker at fastslå, om frontiermodeller kan udføre komplekse cyberoperationer, der kan true regeringssystemer, kritisk infrastruktur eller private organisationer.

Tidligere drøftelser har angiveligt færdiggjort aftaler om test af kraftfulde proprietære systemer, herunder Anthropics Mythos- og Fable-modeller samt OpenAIs GPT-5.6 Sol.

Den nuværende ramme vil dog angiveligt udelukke open-weight-modeller. Disse systemer giver udviklere mulighed for at downloade, inspicere, ændre og implementere deres underliggende modelvægte i stedet for kun at få adgang til dem via en virksomhedsstyret tjeneste.

Udelukkelse af open-weight-modeller kan efterlade et sikkerhedsgab

Den rapporterede undtagelse kan skabe et betydeligt hul i den føderale regerings evalueringssystem.

Open-weight-modeller kan spredes hurtigt, fordi enkeltpersoner og organisationer kan kopiere og ændre dem uden at være afhængige af den oprindelige udviklers infrastruktur. Udviklere kan også fjerne indbyggede sikkerhedsforanstaltninger, finjustere modeller til specialiserede opgaver eller køre dem privat.

En meget kapabel open-weight-model kan derfor nå ud til et stort antal brugere uden at skulle gennemgå de samme føderale cybersikkerhedstest som proprietære frontiermodeller.

Regeringen har ikke afklaret, om udelukkelsen dækker enhver open-weight-udgivelse eller kun modeller, der falder under en bestemt kapacitetstærskel.

Anthropic sagde for nylig, at det ikke støtter et forbud mod open-weight AI-modeller, på trods af at virksomheden gentagne gange har advaret om, at avancerede AI-systemer kan skabe alvorlige cybersikkerheds- og nationale sikkerhedsrisici.

Væsentlige detaljer om programmet er stadig uklare

Det Hvide Hus har ikke identificeret, hvilken føderal myndighed der skal drive testprogrammet eller administrere adgangen til de klassificerede benchmarks.

Embedsmænd har heller ikke forklaret, om de vil offentliggøre nogen evalueringsresultater. At holde resultaterne klassificeret kan hjælpe med at beskytte følsomme testmetoder, men det vil give forskere og offentligheden ringe information om de kapaciteter, der afdækkes under vurderingerne.

Administrationen har ikke oplyst, hvilke konsekvenser en virksomhed kan blive mødt med, hvis dens model demonstrerer farlige cyberkapaciteter. Programmets frivillige karakter rejser også spørgsmål om, hvorvidt udviklere kan afslå yderligere test eller fortsætte med at frigive en model efter bekymrende resultater.

Embedsmænd kan i sidste ende oprette en separat ramme for open-weight-systemer, selvom intet sådant program er blevet annonceret.

Beslutningen kommer, mens regeringer og AI-virksomheder undersøger, hvordan autonome agenter interagerer med virkelige systemer. I en separat sag rettede OpenAI- og Anthropic-agenter sig mod rigtige mennesker under cybersikkerhedstest, hvilket understreger de risici, der kan opstå, når avancerede modeller opererer uden for kontrollerede miljøer.