Gli USA escluderebbero i modelli AI open-weight dai test di cybersecurity

I modelli AI open-weight rimarranno, secondo quanto riferito, al di fuori di un nuovo programma governativo statunitense progettato per verificare se i sistemi avanzati possano condurre operazioni informatiche sofisticate.

I consiglieri dell’amministrazione Trump avrebbero comunicato la decisione durante una riunione alla Casa Bianca del 4 agosto, alla quale hanno preso parte rappresentanti di Meta, Google, Nvidia, OpenAI e Anthropic, secondo quanto riportato da Reuters.

Il programma federale si concentrerà sui modelli AI proprietari

Il quadro di test volontario fa seguito a un ordine esecutivo del 2 giugno che ha incaricato le agenzie federali di creare benchmark classificati per le capacità avanzate di cybersicurezza dell’IA.

I funzionari vogliono determinare se i modelli di frontiera possano eseguire operazioni informatiche complesse in grado di minacciare i sistemi governativi, le infrastrutture critiche o le organizzazioni private.

Le discussioni precedenti avrebbero finalizzato gli accordi per testare potenti sistemi proprietari, inclusi i modelli Mythos e Fable di Anthropic e GPT-5.6 Sol di OpenAI.

Tuttavia, il quadro attuale escluderebbe, secondo quanto riferito, i modelli open-weight. Questi sistemi consentono agli sviluppatori di scaricare, ispezionare, modificare e distribuire i pesi del modello sottostante, invece di accedervi esclusivamente tramite un servizio controllato dall’azienda.

L’esclusione dei modelli open-weight potrebbe lasciare una lacuna di sicurezza

L’esenzione riportata potrebbe creare una lacuna significativa nel sistema di valutazione del governo federale.

I modelli open-weight possono diffondersi rapidamente perché individui e organizzazioni possono copiarli e modificarli senza dipendere dall’infrastruttura dello sviluppatore originale. Gli sviluppatori possono anche rimuovere le protezioni integrate, perfezionare i modelli per compiti specializzati o eseguirli privatamente.

Un modello open-weight altamente capace potrebbe quindi raggiungere un gran numero di utenti senza affrontare gli stessi test federali di cybersicurezza dei sistemi proprietari di frontiera.

Il governo non ha chiarito se l’esclusione riguardi ogni rilascio open-weight o soltanto i modelli che si collocano al di sotto di una determinata soglia di capacità.

Di recente, Anthropic ha dichiarato di non sostenere il divieto dei modelli di IA open-weight, nonostante abbia più volte avvertito che i sistemi di IA avanzati potrebbero creare seri rischi per la cybersicurezza e la sicurezza nazionale.

I dettagli chiave del programma rimangono poco chiari

La Casa Bianca non ha indicato quale agenzia federale gestirà il programma di test né chi controllerà l’accesso ai benchmark classificati.

I funzionari non hanno inoltre spiegato se pubblicheranno eventuali risultati delle valutazioni. Mantenere i risultati classificati potrebbe aiutare a proteggere i metodi di test sensibili, ma fornirebbe a ricercatori e opinione pubblica poche informazioni sulle capacità scoperte durante le valutazioni.

L’amministrazione non ha reso noto quali conseguenze un’azienda potrebbe affrontare se il suo modello dimostrasse capacità informatiche pericolose. La natura volontaria del programma solleva inoltre interrogativi sulla possibilità che gli sviluppatori possano rifiutare ulteriori test o continuare a rilasciare un modello dopo risultati preoccupanti.

I funzionari potrebbero in futuro creare un quadro separato per i sistemi open-weight, sebbene al momento nessun programma di questo tipo sia stato annunciato.

La decisione arriva mentre governi e aziende di IA esaminano come gli agenti autonomi interagiscono con i sistemi reali. In un caso distinto, gli agenti di OpenAI e Anthropic hanno preso di mira persone reali durante i test di cybersicurezza, evidenziando i rischi che possono emergere quando modelli avanzati operano al di fuori di ambienti controllati.