USA utelukker angivelig AI-modeller med åpen vekt fra cybertester

AI-modeller med åpen vekt vil angivelig forbli utenfor et nytt amerikansk regjeringsprogram utformet for å teste om avanserte systemer kan utføre sofistikerte cyberoperasjoner.

Trump-administrasjonens rådgivere formidlet beslutningen under et møte i Det hvite hus 4. august, der representanter fra Meta, Google, Nvidia, OpenAI og Anthropic deltok, ifølge Reuters.

Føderalt program vil fokusere på proprietære AI-modeller

Det frivillige testrammeverket følger en presidentordre av 2. juni som påla føderale etater å lage graderte referansemålinger for avanserte AI-cybersikkerhetsfunksjoner.

Tjenestemenn ønsker å fastslå om frontmodeller kan utføre komplekse cyberoperasjoner som kan true offentlige systemer, kritisk infrastruktur eller private organisasjoner.

Tidligere samtaler fullførte angivelig ordninger for testing av kraftige proprietære systemer, inkludert Anthropics modeller Mythos og Fable og OpenAIs GPT-5.6 Sol.

Det nåværende rammeverket vil imidlertid angivelig ekskludere modeller med åpen vekt. Disse systemene lar utviklere laste ned, inspisere, modifisere og distribuere sine underliggende modellvekter i stedet for å få tilgang til dem bare gjennom en selskapskontrollert tjeneste.

Ekskludering av modeller med åpen vekt kan skape et sikkerhetshull

Unntaket som rapporteres kan skape et betydelig gap i den føderale regjeringens evalueringssystem.

Modeller med åpen vekt kan spre seg raskt fordi enkeltpersoner og organisasjoner kan kopiere og modifisere dem uten å være avhengige av den opprinnelige utviklerens infrastruktur. Utviklere kan også fjerne innebygde sikkerhetstiltak, finjustere modeller for spesialiserte oppgaver eller kjøre dem privat.

En svært kapabel modell med åpen vekt kan derfor nå et stort antall brukere uten å møte de samme føderale cybersikkerhetstestene som proprietære frontsystemer.

Regjeringen har ikke avklart om ekskluderingen omfatter hver lansering av modeller med åpen vekt eller bare modeller som ligger under en bestemt kapasitetsgrense.

Anthropic sa nylig at de ikke støtter forbud mot AI-modeller med åpen vekt, til tross for gjentatte advarsler om at avanserte AI-systemer kan skape alvorlige cybersikkerhets- og nasjonale sikkerhetsrisikoer.

Nøkkeldetaljer om programmet forblir uklare

Det hvite hus har ikke identifisert hvilken føderal etat som skal drifte testprogrammet eller administrere tilgangen til de graderte referansemålingene.

Tjenestemenn har heller ikke forklart om de vil publisere noen evalueringsresultater. Å holde funnene graderte kan bidra til å beskytte sensitive testmetoder, men det vil gi forskere og offentligheten lite informasjon om kapasitetene som ble avdekket under evalueringene.

Administrasjonen har ikke offentliggjort hvilke konsekvenser et selskap kan møte hvis modellen demonstrerer farlige cyberkapabiliteter. Programmets frivillige natur reiser også spørsmål om utviklere kan avslå ytterligere testing eller fortsette å lansere en modell etter bekymringsfulle resultater.

Tjenestemenn kan etter hvert lage et eget rammeverk for systemer med åpen vekt, selv om det ikke er kunngjort et slikt program.

Beslutningen kommer mens regjeringer og AI-selskaper undersøker hvordan autonome agenter samhandler med reelle systemer. I en separat sak målrettet OpenAI- og Anthropic-agenter virkelige mennesker under cybersikkerhetstester, noe som fremhever risikoen som kan oppstå når avanserte modeller opererer utenfor kontrollerte miljøer.