USA utelukker angivelig Open-Weight AI-modeller fra cybertester

AI-modeller med åpen vekt vil angivelig forbli utenfor et nytt amerikansk regjeringsprogram som skal teste om avanserte systemer kan utføre sofistikerte cyberoperasjoner.

Rådgivere i Trump-administrasjonen kommuniserte beslutningen under et møte i Det hvite hus 4. august, der representanter fra Meta, Google, Nvidia, OpenAI og Anthropic deltok, ifølge Reuters.

Føderalt program vil fokusere på proprietære AI-modeller

Det frivillige testrammeverket følger en presidentordre fra 2. juni som påla føderale etater å lage graderte referansepunkter for avanserte AI-cybersikkerhetsfunksjoner.

Tjenestemenn vil avgjøre om frontmodeller kan utføre komplekse cyberoperasjoner som kan true regjeringssystemer, kritisk infrastruktur eller private organisasjoner.

Tidligere diskusjoner skal angivelig ha ferdigstilt ordninger for testing av kraftige proprietære systemer, inkludert Anthropics Mythos- og Fable-modeller og OpenAIs GPT-5.6 Sol.

Det nåværende rammeverket skal imidlertid angivelig utelate modeller med åpen vekt. Disse systemene lar utviklere laste ned, inspisere, endre og distribuere de underliggende modellvektene i stedet for å kun få tilgang til dem via en selskapskontrollert tjeneste.

Utelukkelse av modeller med åpen vekt kan skape et sikkerhetsgap

Det rapporterte unntaket kan skape et betydelig gap i den føderale regjeringens evalueringssystem.

Modeller med åpen vekt kan spre seg raskt fordi enkeltpersoner og organisasjoner kan kopiere og endre dem uten å være avhengige av den opprinnelige utviklerens infrastruktur. Utviklere kan også fjerne innebygde sikkerhetstiltak, finjustere modeller for spesialiserte oppgaver eller kjøre dem privat.

En svært kapabel modell med åpen vekt kan derfor nå et stort antall brukere uten å måtte gjennomgå de samme føderale cybersikkerhetstestene som proprietære frontmodellsystemer.

Regjeringen har ikke avklart om utelukkelsen dekker alle utgivelser av modeller med åpen vekt eller bare modeller som ligger under en bestemt kapasitetsterskel.

Anthropic sa nylig at de ikke støtter et forbud mot AI-modeller med åpen vekt, til tross for at de gjentatte ganger har advart om at avanserte AI-systemer kan skape alvorlige cybersikkerhets- og nasjonale sikkerhetsrisikoer.

Viktige detaljer om programmet forblir uklare

Det hvite hus har ikke identifisert hvilken føderal etat som skal drifte testprogrammet eller administrere tilgangen til de graderte referansepunktene.

Tjenestemenn har heller ikke forklart om de vil offentliggjøre noen evalueringsresultater. Å holde funnene graderte kan bidra til å beskytte sensitive testmetoder, men det vil gi forskere og offentligheten lite informasjon om kapasitetene som avdekkes under vurderingene.

Administrasjonen har ikke opplyst om hvilke konsekvenser et selskap kan møte hvis modellen demonstrerer farlige cyberkapasiteter. Programmets frivillige natur reiser også spørsmål om utviklere kan avslå ytterligere testing eller fortsette å utgi en modell etter bekymringsfulle resultater.

Tjenestemenn kan etter hvert lage et eget rammeverk for systemer med åpen vekt, selv om et slikt program ikke er kunngjort.

Beslutningen kommer mens regjeringer og AI-selskaper undersøker hvordan autonome agenter samhandler med virkelige systemer. I en egen sak rettet OpenAI- og Anthropic-agenter seg mot virkelige mennesker under cybersikkerhetstester, noe som fremhever risikoene som kan oppstå når avanserte modeller opererer utenfor kontrollerte miljøer.