Gli USA escluderebbero i modelli di IA open-weight dai test di sicurezza informatica

I modelli di IA open-weight resteranno, a quanto riferito, fuori da un nuovo programma del governo statunitense progettato per verificare se i sistemi avanzati possano condurre sofisticate operazioni informatiche.

I consulenti dell’amministrazione Trump hanno comunicato la decisione durante una riunione alla Casa Bianca il 4 agosto, a cui hanno partecipato rappresentanti di Meta, Google, Nvidia, OpenAI e Anthropic, secondo quanto riferito da Reuters.

Il programma federale si concentrerà sui modelli di IA proprietari

Il quadro di test volontari segue un ordine esecutivo del 2 giugno che ha ordinato alle agenzie federali di creare benchmark classificati per le capacità avanzate di cybersicurezza dell’IA.

I funzionari vogliono determinare se i modelli di frontiera possano eseguire complesse operazioni informatiche che potrebbero minacciare i sistemi governativi, le infrastrutture critiche o le organizzazioni private.

Le discussioni precedenti hanno, a quanto riferito, finalizzato gli accordi per testare potenti sistemi proprietari, inclusi i modelli Mythos e Fable di Anthropic e GPT-5.6 Sol di OpenAI.

Tuttavia, il quadro attuale escluderà, a quanto riferito, i modelli open-weight. Questi sistemi consentono agli sviluppatori di scaricare, ispezionare, modificare e distribuire i pesi dei modelli sottostanti invece di accedervi solo tramite un servizio controllato dall’azienda.

L’esclusione degli open-weight potrebbe creare una lacuna di sicurezza

L’esenzione riportata potrebbe creare una lacuna significativa nel sistema di valutazione del governo federale.

I modelli open-weight possono diffondersi rapidamente perché individui e organizzazioni possono copiarli e modificarli senza fare affidamento sull’infrastruttura dello sviluppatore originale. Gli sviluppatori possono anche rimuovere le protezioni integrate, ottimizzare i modelli per compiti specializzati o eseguirli privatamente.

Un modello open-weight altamente capace potrebbe quindi raggiungere un gran numero di utenti senza affrontare gli stessi test federali di cybersicurezza dei sistemi proprietari di frontiera.

Il governo non ha chiarito se l’esclusione copra ogni rilascio open-weight o solo i modelli che non raggiungono una particolare soglia di capacità.

Anthropic ha recentemente dichiarato che non sostiene il divieto dei modelli di IA open-weight, nonostante abbia ripetutamente avvertito che i sistemi di IA avanzati potrebbero creare gravi rischi per la cybersicurezza e la sicurezza nazionale.

I dettagli chiave del programma rimangono poco chiari

La Casa Bianca non ha identificato quale agenzia federale gestirà il programma di test o gestirà l’accesso ai benchmark classificati.

I funzionari non hanno inoltre spiegato se pubblicheranno eventuali risultati delle valutazioni. Mantenere i risultati classificati potrebbe aiutare a proteggere i metodi di test sensibili, ma darebbe ai ricercatori e al pubblico poche informazioni sulle capacità scoperte durante le valutazioni.

L’amministrazione non ha rivelato quali conseguenze potrebbe affrontare un’azienda se il suo modello dimostra pericolose capacità informatiche. La natura volontaria del programma solleva anche dubbi sulla possibilità per gli sviluppatori di rifiutare ulteriori test o di continuare a rilasciare un modello dopo risultati preoccupanti.

I funzionari potrebbero eventualmente creare un quadro separato per i sistemi open-weight, anche se nessun programma del genere è stato annunciato.

La decisione arriva mentre governi e aziende di IA esaminano come gli agenti autonomi interagiscono con i sistemi reali. In un caso separato, gli agenti di OpenAI e Anthropic hanno preso di mira persone reali durante i test di cybersicurezza, evidenziando i rischi che possono emergere quando i modelli avanzati operano al di fuori di ambienti controllati.