USA udelukker angiveligt open-weight AI-modeller fra cybertests

Open-weight AI-modeller vil angiveligt forblive uden for et nyt amerikansk regeringsprogram, der er designet til at teste, om avancerede systemer kan udføre sofistikerede cyberoperationer.

Trump-administrationens rådgivere kommunikerede beslutningen under et møde i Det Hvide Hus den 4. august, hvor repræsentanter fra Meta, Google, Nvidia, OpenAI og Anthropic deltog, ifølge Reuters.

Føderalt program vil fokusere på proprietære AI-modeller

Den frivillige testramme følger en præsidentordre fra den 2. juni, der pålagde føderale agenturer at oprette klassificerede benchmarks for avancerede AI-cybersikkerhedsfunktioner.

Embedsmænd ønsker at fastslå, om frontmodeller kan udføre komplekse cyberoperationer, der kan true regeringssystemer, kritisk infrastruktur eller private organisationer.

Tidligere drøftelser afsluttede angiveligt arrangementer for testning af kraftfulde proprietære systemer, herunder Anthropics Mythos- og Fable-modeller og OpenAIs GPT-5.6 Sol.

Den nuværende ramme vil dog angiveligt udelukke open-weight-modeller. Disse systemer giver udviklere mulighed for at downloade, inspicere, ændre og implementere deres underliggende modelvægte i stedet for kun at få adgang til dem gennem en virksomhedskontrolleret tjeneste.

Udelukkelse af open-weight-modeller kan skabe et sikkerhedshul

Den rapporterede undtagelse kan skabe en betydelig kløft i den føderale regerings evalueringssystem.

Open-weight-modeller kan spredes hurtigt, fordi enkeltpersoner og organisationer kan kopiere og ændre dem uden at være afhængige af den oprindelige udviklers infrastruktur. Udviklere kan også fjerne indbyggede sikkerhedsforanstaltninger, finjustere modeller til specialiserede opgaver eller køre dem privat.

En meget kapabel open-weight-model kunne derfor nå et stort antal brugere uden at skulle gennemgå de samme føderale cybersikkerhedstests som proprietære frontsystemer.

Regeringen har ikke præciseret, om udelukkelsen dækker alle open-weight-udgivelser eller kun modeller, der falder under en bestemt kapabilitetstærskel.

Anthropic har for nylig sagt, at det ikke støtter et forbud mod open-weight AI-modeller, på trods af gentagne advarsler om, at avancerede AI-systemer kan skabe alvorlige cybersikkerheds- og nationale sikkerhedsrisici.

Væsentlige detaljer om programmet forbliver uklare

Det Hvide Hus har ikke identificeret, hvilken føderal myndighed der skal drive testprogrammet eller administrere adgangen til de klassificerede benchmarks.

Embedsmænd har heller ikke forklaret, om de vil offentliggøre nogen evalueringsresultater. At holde resultaterne klassificerede kan beskytte følsomme testmetoder, men det ville give forskere og offentligheden ringe information om de kapabiliteter, der afdækkes under vurderingerne.

Administrationen har ikke oplyst, hvilke konsekvenser en virksomhed kan møde, hvis dens model udviser farlige cyberkapabiliteter. Programmets frivillige karakter rejser også spørgsmål om, hvorvidt udviklere kan afvise yderligere testning eller fortsætte med at frigive en model efter bekymrende resultater.

Embedsmænd kan på et tidspunkt oprette en separat ramme for open-weight-systemer, selvom et sådant program ikke er blevet annonceret.

Beslutningen kommer, mens regeringer og AI-virksomheder undersøger, hvordan autonome agenter interagerer med virkelige systemer. I en separat sag målrettede OpenAI- og Anthropic-agenter sig mod rigtige mennesker under cybersikkerhedstests, hvilket fremhæver de risici, der kan opstå, når avancerede modeller opererer uden for kontrollerede miljøer.