USA utelukker angivelig AI-modeller med åpen vekt fra cybertester

AI-modeller med åpen vekt vil angivelig forbli utenfor et nytt program fra den amerikanske regjeringen som er utformet for å teste om avanserte systemer kan utføre sofistikerte cyberoperasjoner.

Rådgivere for Trump-administrasjonen formidlet beslutningen under et møte i Det hvite hus 4. august med deltakelse av representanter fra Meta, Google, Nvidia, OpenAI og Anthropic, ifølge Reuters.

Føderalt program vil fokusere på proprietære AI-modeller

Det frivillige testrammeverket følger en presidentordre av 2. juni som ga føderale etater i oppdrag å opprette klassifiserte referansetester for avanserte AI-cybersikkerhetsfunksjoner.

Embetsmenn ønsker å avgjøre om frontiermodeller kan utføre komplekse cyberoperasjoner som kan true offentlige systemer, kritisk infrastruktur eller private organisasjoner.

Tidligere diskusjoner angivelig fullførte ordninger for testing av kraftige proprietære systemer, inkludert Anthropics Mythos- og Fable-modeller og OpenAIs GPT-5.6 Sol.

Det nåværende rammeverket vil imidlertid angivelig utelukke modeller med åpen vekt. Disse systemene lar utviklere laste ned, inspisere, endre og distribuere de underliggende modellvektene i stedet for å få tilgang til dem kun gjennom en selskapskontrollert tjeneste.

Ekskludering av modeller med åpen vekt kan etterlate et sikkerhetsgap

Det rapporterte unntaket kan skape et betydelig gap i den føderale regjeringens evalueringssystem.

Modeller med åpen vekt kan spre seg raskt fordi enkeltpersoner og organisasjoner kan kopiere og modifisere dem uten å være avhengige av den opprinnelige utviklerens infrastruktur. Utviklere kan også fjerne innebygde sikkerhetsmekanismer, finjustere modeller for spesialiserte oppgaver eller kjøre dem privat.

En svært kapabel modell med åpen vekt kunne derfor nå et stort antall brukere uten å måtte gjennomgå de samme føderale cybersikkerhetstestene som proprietære frontiermodeller.

Regjeringen har ikke avklart om utelukkelsen omfatter alle utgivelser med åpen vekt eller bare modeller som faller under en bestemt kapasitetsterskel.

Anthropic sa nylig at de ikke støtter et forbud mot AI-modeller med åpen vekt, til tross for gjentatte advarsler om at avanserte AI-systemer kan utgjøre alvorlige cybersikkerhets- og nasjonale sikkerhetsrisikoer.

Viktige detaljer om programmet forblir uklare

Det hvite hus har ikke identifisert hvilken føderal etat som skal drifte testprogrammet eller forvalte tilgangen til de klassifiserte referansetestene.

Embetsmenn har heller ikke forklart om de vil publisere noen evalueringsresultater. Å holde funnene klassifisert kan hjelpe med å beskytte sensitive testmetoder, men det ville gi forskere og offentligheten lite informasjon om funksjonene som blir avdekket under vurderingene.

Administrasjonen har ikke opplyst om hvilke konsekvenser et selskap kan møte hvis modellen demonstrerer farlige cyberfunksjoner. Programmets frivillige karakter reiser også spørsmål om hvorvidt utviklere kan avslå ytterligere testing eller fortsette å utgi en modell etter bekymringsfulle resultater.

Embetsmenn kan etter hvert opprette et eget rammeverk for systemer med åpen vekt, selv om det ikke er kunngjort noe slikt program.

Beslutningen kommer samtidig som regjeringer og AI-selskaper undersøker hvordan autonome agenter samhandler med virkelige systemer. I en separat sak rettet OpenAI- og Anthropic-agenter seg mot virkelige mennesker under cybersikkerhetstester, noe som fremhever risikoene som kan oppstå når avanserte modeller opererer utenfor kontrollerte miljøer.