USA utelukker etter sigende åpenvekt AI-modeller fra cybertester

AI-modeller med åpen vekt vil angivelig forbli utenfor et nytt amerikansk regjeringsprogram utformet for å teste om avanserte systemer kan utføre sofistikerte cyberoperasjoner.

Rådgivere i Trump-administrasjonen formidlet avgjørelsen under et møte i Det hvite hus 4. august, der representanter fra Meta, Google, Nvidia, OpenAI og Anthropic deltok, ifølge Reuters.

Føderalt program vil fokusere på proprietære AI-modeller

Det frivillige testrammeverket følger en presidentordre fra 2. juni som påla føderale etater å opprette graderte referanseverdier for avanserte AI-cybersikkerhetsevner.

Myndighetene ønsker å fastslå om frontmodeller kan utføre komplekse cyberoperasjoner som kan true offentlige systemer, kritisk infrastruktur eller private organisasjoner.

Tidligere diskusjoner skal ha ferdigstilt ordninger for testing av kraftige proprietære systemer, inkludert Anthropics Mythos- og Fable-modeller og OpenAI sin GPT-5.6 Sol.

Det nåværende rammeverket vil imidlertid angivelig utelukke modeller med åpen vekt. Disse systemene lar utviklere laste ned, inspisere, endre og distribuere de underliggende modellvektene i stedet for å få tilgang til dem bare via en selskapsstyrt tjeneste.

Utelukkelse av modeller med åpen vekt kan etterlate et sikkerhetshull

Den rapporterte utelukkelsen kan skape et betydelig gap i det føderale evalueringssystemet.

Modeller med åpen vekt kan spre seg raskt fordi enkeltpersoner og organisasjoner kan kopiere og endre dem uten å være avhengig av den opprinnelige utviklerens infrastruktur. Utviklere kan også fjerne innebygde sikkerhetsmekanismer, finjustere modeller for spesialiserte oppgaver eller kjøre dem privat.

En svært kapabel modell med åpen vekt kunne derfor nå et stort antall brukere uten å møte de samme føderale cybersikkerhetstestene som proprietære frontsystemer.

Myndighetene har ikke avklart om utelukkelsen omfatter alle utgivelser med åpen vekt eller bare modeller som ligger under en bestemt kapasitetsterskel.

Anthropic sa nylig at de ikke støtter et forbud mot AI-modeller med åpen vekt, til tross for gjentatte advarsler om at avanserte AI-systemer kan skape alvorlige cybersikkerhets- og nasjonale sikkerhetsrisikoer.

Sentrale detaljer om programmet forblir uklare

Det hvite hus har ikke identifisert hvilken føderal etat som skal drifte testprogrammet eller administrere tilgangen til de graderte referanseverdiene.

Myndighetene har heller ikke redegjort for om de vil offentliggjøre noen evalueringsresultater. Å holde funnene graderte kan bidra til å beskytte sensitive testmetoder, men det ville gi forskere og offentligheten lite informasjon om kapasitetene som ble avdekket under vurderingene.

Administrasjonen har ikke opplyst om hvilke konsekvenser et selskap kan møte dersom modellen demonstrerer farlige cyberkapasiteter. Programmets frivillige natur reiser også spørsmål om utviklere kan avslå ytterligere testing eller fortsette å utgi en modell etter bekymringsfulle resultater.

Myndighetene kan etter hvert opprette et eget rammeverk for systemer med åpen vekt, selv om det ikke er kunngjort noe slikt program.

Avgjørelsen kommer mens regjeringer og AI-selskaper undersøker hvordan autonome agenter samhandler med virkelige systemer. I en separat sak rettet OpenAI- og Anthropic-agenter seg mot ekte personer under cybersikkerhetstester, noe som understreker risikoene som kan oppstå når avanserte modeller opererer utenfor kontrollerte miljøer.