Anthropic dice di non sostenere il divieto dei modelli di IA open-weight

Anthropic ha chiarito la propria posizione sui modelli AI a pesi aperti, con il CEO Dario Amodei che ha dichiarato che l’azienda non ha mai sostenuto un divieto. Tuttavia, continua a mettere in guardia sul fatto che potenti modelli aperti potrebbero creare importanti rischi per la sicurezza e geopolitici.

Anthropic solleva preoccupazioni sulla Cina

Amodei ha avvertito che i governi autoritari, inclusa la Cina, potrebbero utilizzare modelli AI avanzati per rafforzare le capacità militari, sviluppare sistemi più potenti ed espandere la sorveglianza.

Ha anche espresso preoccupazione per il fatto che la Cina potrebbe, in futuro, costruire modelli AI che superino quelli sviluppati negli Stati Uniti.

Anthropic ha recentemente accusato Alibaba di aver utilizzato 25.000 account falsi per estrarre capacità da Claude. Secondo quanto riportato, Alibaba si sta anche preparando a limitare l’uso di Claude Code nei propri ambienti di lavoro.

I modelli aperti potrebbero favorire un uso improprio

Amodei ha affermato che i malintenzionati potrebbero utilizzare potenti modelli AI per condurre attacchi informatici e altre attività dannose.

I modelli a pesi aperti possono presentare rischi aggiuntivi perché gli sviluppatori non possono monitorare facilmente come le persone li utilizzano. Una volta rilasciato, un’azienda non può nemmeno ritirare il modello, aggiornarne le protezioni o impedire la diffusione di versioni modificate.

Amodei ha respinto le affermazioni secondo cui i modelli aperti rendono automaticamente l’IA più sicura o forniscono costantemente ai difensori un vantaggio maggiore rispetto agli aggressori.

Amodei propone quattro misure di sicurezza

Il CEO di Anthropic ha proposto diverse politiche per la gestione dei rischi dell’IA avanzata, tra cui la limitazione delle esportazioni di chip avanzati e attrezzature per la produzione di chip verso la Cina e l’intensificazione dell’applicazione delle norme contro il contrabbando di chip.

Ha anche chiesto di vietare le operazioni di distillazione di modelli AI su scala industriale e di richiedere test di sicurezza obbligatori sia per i potenti modelli aperti che per quelli chiusi.

Queste misure mirerebbero all’accesso alle risorse di calcolo e richiederebbero alle aziende di valutare i modelli avanzati prima della distribuzione o del rilascio.

Le aziende tecnologiche si oppongono alle restrizioni anticipate

NVIDIA, Meta, Microsoft e altre aziende tecnologiche hanno recentemente messo in guardia i responsabili politici statunitensi dall’introdurre restrizioni premature sull’IA a pesi aperti.

Le aziende hanno sostenuto che i modelli aperti supportano la crescita economica, incoraggiano l’innovazione e aiutano i ricercatori a sviluppare strumenti di sicurezza IA più solidi. Anthropic non ha firmato la lettera del settore.

Amodei ha riconosciuto che i modelli a pesi aperti possono supportare la ricerca e la crescita economica. Tuttavia, ha sostenuto che i responsabili politici non dovrebbero ignorare il loro potenziale utilizzo in attacchi informatici, sistemi militari, sorveglianza o nello sviluppo di IA più capaci.

Tra le altre notizie su Anthropic, l’azienda ha recentemente lanciato Claude Opus 5.