Anthropic dice di non supportare il divieto dei modelli di IA open-weight

Anthropic ha chiarito la sua posizione sui modelli AI a pesi aperti, con il CEO Dario Amodei che afferma che l’azienda non ha mai sostenuto un divieto. Tuttavia, continua ad avvertire che i modelli aperti potenti potrebbero creare gravi rischi per la sicurezza e geopolitici.

Anthropic esprime preoccupazioni sulla Cina

Amodei ha avvertito che i governi autoritari, inclusa la Cina, potrebbero utilizzare modelli AI avanzati per rafforzare le capacità militari, sviluppare sistemi più potenti ed espandere la sorveglianza.

Ha anche espresso preoccupazione che la Cina potrebbe alla fine costruire modelli AI che superano quelli sviluppati negli Stati Uniti.

Anthropic ha recentemente accusato Alibaba di aver utilizzato 25.000 account falsi per estrarre capacità da Claude. Secondo quanto riferito, Alibaba si sta anche preparando a limitare l’uso di Claude Code nei propri luoghi di lavoro.

I modelli aperti potrebbero favorire usi impropri

Amodei ha affermato che i malintenzionati potrebbero utilizzare modelli AI potenti per condurre attacchi informatici e altre attività dannose.

I modelli a pesi aperti potrebbero presentare rischi aggiuntivi perché gli sviluppatori non possono facilmente monitorare come le persone li utilizzano. Una volta rilasciato, un’azienda non può neppure ritirare il modello, aggiornarne le protezioni o impedire la diffusione di versioni modificate.

Amodei ha respinto le affermazioni secondo cui i modelli aperti renderebbero automaticamente l’IA più sicura o fornirebbero costantemente ai difensori un vantaggio maggiore rispetto agli attaccanti.

Amodei propone quattro misure di sicurezza

Il CEO di Anthropic ha proposto diverse politiche per gestire i rischi dell’IA avanzata, tra cui limitare le esportazioni di chip avanzati e attrezzature per la produzione di chip verso la Cina e intensificare l’applicazione delle norme contro il contrabbando di chip.

Ha anche chiesto di vietare le operazioni di distillazione di modelli IA su scala industriale e di richiedere test di sicurezza obbligatori sia per i modelli aperti potenti che per quelli chiusi.

Queste misure mirerebbero all’accesso alle risorse di calcolo e richiederebbero alle aziende di valutare i modelli avanzati prima della distribuzione o del rilascio.

Le aziende tecnologiche si oppongono alle restrizioni premature

NVIDIA, Meta, Microsoft e altre aziende tecnologiche hanno recentemente messo in guardia i responsabili politici statunitensi dall’introdurre restrizioni premature sull’IA a pesi aperti.

Le aziende hanno sostenuto che i modelli aperti favoriscono la crescita economica, incoraggiano l’innovazione e aiutano i ricercatori a sviluppare strumenti di sicurezza IA più solidi. Anthropic non ha firmato la lettera del settore.

Amodei ha riconosciuto che i modelli a pesi aperti possono favorire la ricerca e la crescita economica. Tuttavia, ha sostenuto che i responsabili politici non dovrebbero ignorare il loro potenziale utilizzo in attacchi informatici, sistemi militari, sorveglianza o nello sviluppo di un’IA più capace.

Tra le altre novità di Anthropic, l’azienda ha recentemente lanciato Claude Opus 5.