Gli USA avrebbero escluso i modelli AI open-weight dai test informatici

Secondo alcune indiscrezioni, i modelli di IA open-weight resteranno al di fuori di un nuovo programma del governo statunitense progettato per verificare se i sistemi avanzati siano in grado di condurre operazioni informatiche sofisticate.

I consiglieri dell’amministrazione Trump hanno comunicato la decisione durante una riunione alla Casa Bianca del 4 agosto, a cui hanno partecipato rappresentanti di Meta, Google, Nvidia, OpenAI e Anthropic, come riporta Reuters.

Il programma federale si concentrerà sui modelli di IA proprietari

Il quadro di test volontari fa seguito a un ordine esecutivo del 2 giugno che ha incaricato le agenzie federali di creare benchmark classificati per le capacità avanzate di cybersicurezza dell’IA.

I funzionari vogliono determinare se i modelli di frontiera possano eseguire operazioni informatiche complesse che potrebbero minacciare i sistemi governativi, le infrastrutture critiche o le organizzazioni private.

Secondo quanto riferito, le discussioni precedenti hanno finalizzato gli accordi per testare potenti sistemi proprietari, tra cui i modelli Mythos e Fable di Anthropic e GPT-5.6 Sol di OpenAI.

Tuttavia, secondo le indiscrezioni, il quadro attuale escluderà i modelli open-weight. Questi sistemi consentono agli sviluppatori di scaricare, ispezionare, modificare e distribuire i pesi del modello sottostante, invece di accedervi solo tramite un servizio controllato dall’azienda.

L’esclusione degli open-weight potrebbe lasciare una lacuna di sicurezza

L’esclusione riportata potrebbe creare una lacuna significativa nel sistema di valutazione del governo federale.

I modelli open-weight possono diffondersi rapidamente perché individui e organizzazioni possono copiarli e modificarli senza fare affidamento sull’infrastruttura dello sviluppatore originale. Gli sviluppatori possono anche rimuovere le protezioni integrate, perfezionare i modelli per compiti specializzati o eseguirli privatamente.

Un modello open-weight altamente capace potrebbe quindi raggiungere un gran numero di utenti senza affrontare gli stessi test federali di cybersicurezza dei sistemi di frontiera proprietari.

Il governo non ha chiarito se l’esclusione riguardi ogni rilascio open-weight o solo i modelli che non raggiungono una determinata soglia di capacità.

Di recente, Anthropic ha dichiarato di non sostenere il divieto dei modelli di IA open-weight, nonostante abbia ripetutamente avvertito che i sistemi di IA avanzati potrebbero creare seri rischi per la cybersicurezza e la sicurezza nazionale.

I dettagli chiave del programma restano poco chiari

La Casa Bianca non ha specificato quale agenzia federale gestirà il programma di test o l’accesso ai benchmark classificati.

I funzionari non hanno inoltre spiegato se pubblicheranno i risultati delle valutazioni. Mantenere i risultati classificati potrebbe aiutare a proteggere i metodi di test sensibili, ma fornirebbe a ricercatori e pubblico poche informazioni sulle capacità scoperte durante le valutazioni.

L’amministrazione non ha reso noto quali conseguenze potrebbe affrontare un’azienda se il suo modello dimostrasse capacità informatiche pericolose. La natura volontaria del programma solleva anche interrogativi sulla possibilità che gli sviluppatori possano rifiutare ulteriori test o continuare a rilasciare un modello dopo risultati preoccupanti.

I funzionari potrebbero eventualmente creare un quadro separato per i sistemi open-weight, anche se al momento non è stato annunciato alcun programma in tal senso.

La decisione arriva mentre governi e aziende di IA esaminano come gli agenti autonomi interagiscono con i sistemi reali. In un caso separato, agenti di OpenAI e Anthropic hanno preso di mira persone reali durante i test di cybersicurezza, evidenziando i rischi che possono emergere quando i modelli avanzati operano al di fuori di ambienti controllati.