USA utelukker angivelig open-weight AI-modeller fra cybertester

Ifølge rapporter vil KI-modeller med åpen vekt forbli utenfor et nytt amerikansk myndighetsprogram som skal teste om avanserte systemer kan utføre sofistikerte cyberoperasjoner.

Rådgivere for Trump-administrasjonen formidlet avgjørelsen under et møte i Det hvite hus 4. august, med representanter fra Meta, Google, Nvidia, OpenAI og Anthropic til stede, ifølge Reuters.

Føderalt program vil fokusere på proprietære KI-modeller

Det frivillige testrammeverket kommer i kjølvannet av en presidentordre 2. juni som instruerte føderale etater om å opprette klassifiserte referansegrunnlag for avanserte KI-sikkerhetsfunksjoner.

Tjenestemenn ønsker å fastslå om frontiermodeller kan utføre komplekse cyberoperasjoner som kan true myndighetssystemer, kritisk infrastruktur eller private organisasjoner.

Tidligere diskusjoner skal ha ferdigstilt ordninger for testing av kraftige proprietære systemer, inkludert Anthropics Mythos- og Fable-modeller og OpenAIs GPT-5.6 Sol.

Det nåværende rammeverket skal imidlertid utelukke modeller med åpen vekt. Disse systemene lar utviklere laste ned, inspisere, endre og ta i bruk de underliggende modellvektene i stedet for å få tilgang til dem bare via en selskapskontrollert tjeneste.

Utelukkelse av modeller med åpen vekt kan skape et sikkerhetsgap

Unntaket som er omtalt kan skape et betydelig gap i det føderale evalueringssystemet.

Modeller med åpen vekt kan spre seg raskt fordi enkeltpersoner og organisasjoner kan kopiere og endre dem uten å være avhengige av den opprinnelige utviklerens infrastruktur. Utviklere kan også fjerne innebygde sikkerhetstiltak, finjustere modeller for spesialiserte oppgaver, eller kjøre dem privat.

En svært kapabel modell med åpen vekt kan derfor nå et stort antall brukere uten å måtte gjennomgå de samme føderale cybersikkerhetstestene som proprietære frontiermodeller.

Myndighetene har ikke avklart om utelukkelsen omfatter alle utgivelser av modeller med åpen vekt, eller bare modeller som ligger under en bestemt terskel for kapasitet.

Anthropic uttalte nylig at de ikke støtter et forbud mot KI-modeller med åpen vekt, til tross for at de gjentatte ganger har advart om at avanserte KI-systemer kan skape alvorlige risikoer for cybersikkerhet og nasjonal sikkerhet.

Viktige detaljer om programmet forblir uklare

Det hvite hus har ikke identifisert hvilken føderal etat som skal drifte testprogrammet eller forvalte tilgangen til de klassifiserte referansegrunnlagene.

Tjenestemenn har heller ikke forklart om de vil offentliggjøre noen evalueringsresultater. Å holde funnene graderte kan bidra til å beskytte sensitive testmetoder, men det vil gi forskere og offentligheten lite informasjon om kapabilitetene som avdekkes under vurderingene.

Administrasjonen har ikke opplyst hvilke konsekvenser et selskap kan møte hvis modellen demonstrerer farlige cyberkapabiliteter. Programmets frivillige natur reiser også spørsmål om utviklere kan avslå ytterligere testing eller fortsette å lansere en modell etter bekymringsfulle resultater.

Tjenestemenn kan etter hvert opprette et eget rammeverk for systemer med åpen vekt, selv om et slikt program ikke er kunngjort.

Avgjørelsen kommer samtidig som myndigheter og KI-selskaper undersøker hvordan autonome agenter samhandler med reelle systemer. I en separat sak skal agenter fra OpenAI og Anthropic ha rettet seg mot ekte personer under cybersikkerhetstester, noe som understreker risikoene som kan oppstå når avanserte modeller opererer utenfor kontrollerte miljøer.