Anthropic dichiara di non sostenere il divieto dei modelli AI open-weight

Anthropic ha chiarito la sua posizione sui modelli AI a pesi aperti, con il CEO Dario Amodei che ha dichiarato che l’azienda non ha mai sostenuto un divieto. Tuttavia, continua ad avvertire che potenti modelli aperti potrebbero creare gravi rischi per la sicurezza e geopolitici.

Anthropic solleva preoccupazioni sulla Cina

Amodei ha avvertito che governi autoritari, compresa la Cina, potrebbero utilizzare modelli AI avanzati per rafforzare le capacità militari, sviluppare sistemi più potenti ed espandere la sorveglianza.

Ha anche espresso preoccupazione per il fatto che la Cina potrebbe alla fine costruire modelli AI che superano quelli sviluppati negli Stati Uniti.

Anthropic ha recentemente accusato Alibaba di aver utilizzato 25.000 account falsi per estrarre capacità da Claude. Alibaba starebbe anche preparando di limitare l’uso di Claude Code nei propri ambienti lavorativi.

I modelli aperti potrebbero favorire abusi

Amodei ha detto che malintenzionati potrebbero utilizzare potenti modelli AI per condurre attacchi informatici e altre attività dannose.

I modelli a pesi aperti potrebbero presentare rischi aggiuntivi perché gli sviluppatori non possono facilmente monitorare come le persone li utilizzano. Una volta rilasciato, un’azienda non può nemmeno ritirare il modello, aggiornare le sue protezioni o impedire la diffusione di versioni modificate.

Amodei ha respinto le affermazioni secondo cui i modelli aperti rendono automaticamente l’AI più sicura o forniscono costantemente ai difensori un vantaggio maggiore rispetto agli attaccanti.

Amodei propone quattro misure di sicurezza

Il CEO di Anthropic ha proposto diverse politiche per gestire i rischi dell’AI avanzata, tra cui limitare l’esportazione di chip avanzati e attrezzature per la produzione di chip verso la Cina e aumentare l’applicazione delle norme contro il contrabbando di chip.

Ha anche chiesto di vietare le operazioni di distillazione di modelli AI su scala industriale e di richiedere test di sicurezza obbligatori sia per i modelli potenti aperti che chiusi.

Queste misure mirerebbero all’accesso alle risorse di calcolo e richiederebbero alle aziende di valutare i modelli avanzati prima della distribuzione o del rilascio.

Le aziende tecnologiche si oppongono alle restrizioni premature

NVIDIA, Meta, Microsoft e altre aziende tecnologiche hanno recentemente messo in guardia i responsabili politici statunitensi dall’introdurre restrizioni premature sui modelli AI a pesi aperti.

Le aziende hanno sostenuto che i modelli aperti supportano la crescita economica, incoraggiano l’innovazione e aiutano i ricercatori a sviluppare strumenti di sicurezza AI più solidi. Anthropic non ha firmato la lettera del settore.

Amodei ha riconosciuto che i modelli a pesi aperti possono supportare la ricerca e la crescita economica. Tuttavia, ha sostenuto che i responsabili politici non dovrebbero ignorare il loro potenziale utilizzo in attacchi informatici, sistemi militari, sorveglianza o nello sviluppo di AI più capaci.

In altre notizie su Anthropic, l’azienda ha recentemente lanciato Claude Opus 5.