Secondo quanto riportato, gli USA escludono i modelli AI open-weight dai test di cybersicurezza

I modelli di IA open-weight resteranno, a quanto pare, esclusi da un nuovo programma governativo statunitense progettato per verificare se i sistemi avanzati possano condurre operazioni informatiche sofisticate.

I consiglieri dell’amministrazione Trump hanno comunicato la decisione durante un incontro del 4 agosto alla Casa Bianca a cui hanno partecipato rappresentanti di Meta, Google, Nvidia, OpenAI e Anthropic, come riporta Reuters.

Il programma federale si concentrerà sui modelli di IA proprietari

Il framework di test volontario segue un ordine esecutivo del 2 giugno che ha incaricato le agenzie federali di creare benchmark classificati per le capacità avanzate di cybersicurezza dell’IA.

I funzionari vogliono determinare se i modelli di frontiera possano eseguire operazioni informatiche complesse che potrebbero minacciare i sistemi governativi, le infrastrutture critiche o le organizzazioni private.

Secondo quanto riferito, le discussioni precedenti hanno finalizzato le modalità per testare potenti sistemi proprietari, inclusi i modelli Mythos e Fable di Anthropic e GPT-5.6 Sol di OpenAI.

Tuttavia, l’attuale framework escluderebbe, stando alle indiscrezioni, i modelli open-weight. Questi sistemi consentono agli sviluppatori di scaricare, ispezionare, modificare e distribuire i pesi del modello sottostante, anziché accedervi solo tramite un servizio controllato dall’azienda.

L’esclusione degli open-weight potrebbe aprire una falla nella sicurezza

L’esenzione riportata potrebbe creare una lacuna significativa nel sistema di valutazione del governo federale.

I modelli open-weight possono diffondersi rapidamente perché individui e organizzazioni possono copiarli e modificarli senza dipendere dall’infrastruttura dello sviluppatore originale. Gli sviluppatori possono anche rimuovere le protezioni integrate, perfezionare i modelli per compiti specializzati o eseguirli privatamente.

Un modello open-weight altamente capace potrebbe quindi raggiungere un gran numero di utenti senza affrontare gli stessi test federali di cybersicurezza previsti per i sistemi di frontiera proprietari.

Il governo non ha chiarito se l’esclusione riguardi ogni rilascio open-weight o solo i modelli che scendono al di sotto di una particolare soglia di capacità.

Anthropic ha recentemente dichiarato di non sostenere il divieto dei modelli di IA open-weight, nonostante abbia più volte avvertito che i sistemi di IA avanzati potrebbero creare seri rischi per la cybersicurezza e la sicurezza nazionale.

Dettagli chiave sul programma restano poco chiari

La Casa Bianca non ha specificato quale agenzia federale gestirà il programma di test né l’accesso ai benchmark classificati.

I funzionari non hanno nemmeno spiegato se pubblicheranno eventuali risultati delle valutazioni. Mantenere i risultati classificati potrebbe aiutare a proteggere metodi di test delicati, ma fornirebbe a ricercatori e pubblico poche informazioni sulle capacità scoperte durante le valutazioni.

L’amministrazione non ha reso noto quali conseguenze potrebbe affrontare un’azienda se il suo modello dimostrasse capacità informatiche pericolose. La natura volontaria del programma solleva inoltre dubbi sulla possibilità che gli sviluppatori possano rifiutare ulteriori test o continuare a rilasciare un modello dopo risultati preoccupanti.

I funzionari potrebbero eventualmente creare un framework separato per i sistemi open-weight, anche se al momento nessun programma del genere è stato annunciato.

La decisione arriva mentre governi e aziende di IA esaminano come gli agenti autonomi interagiscono con i sistemi reali. In un caso separato, agenti di OpenAI e Anthropic hanno preso di mira persone reali durante test di cybersicurezza, evidenziando i rischi che possono emergere quando modelli avanzati operano al di fuori di ambienti controllati.