Anthropic afirma que não apoia a proibição de modelos de IA de peso aberto

A Anthropic esclareceu a sua posição sobre modelos de IA de peso aberto, com o CEO Dario Amodei a afirmar que a empresa nunca apoiou uma proibição. No entanto, continua a alertar que modelos abertos poderosos podem criar grandes riscos de segurança e geopolíticos.

Anthropic levanta preocupações sobre a China

Amodei alertou que governos autoritários, incluindo a China, podem utilizar modelos de IA avançados para reforçar capacidades militares, desenvolver sistemas mais poderosos e expandir a vigilância.

Também manifestou preocupação pelo facto de a China poder, eventualmente, construir modelos de IA que superem os desenvolvidos nos Estados Unidos.

A Anthropic acusou recentemente a Alibaba de utilizar 25.000 contas falsas para extrair capacidades do Claude. A Alibaba também estará a preparar-se para restringir o uso do Claude Code no seu local de trabalho.

Modelos abertos podem permitir utilizações indevidas

Amodei afirmou que agentes mal-intencionados podem utilizar modelos de IA poderosos para realizar ciberataques e outras atividades prejudiciais.

Os modelos de peso aberto podem apresentar riscos adicionais porque os programadores não conseguem monitorizar facilmente a forma como as pessoas os utilizam. Uma vez divulgado, uma empresa também não pode retirar o modelo, atualizar as suas salvaguardas ou impedir a propagação de versões modificadas.

Amodei rejeitou as alegações de que os modelos abertos tornam automaticamente a IA mais segura ou proporcionam consistentemente aos defensores uma vantagem maior do que aos atacantes.

Amodei propõe quatro medidas de segurança

O CEO da Anthropic propôs várias políticas para gerir os riscos da IA avançada, incluindo restringir as exportações de chips avançados e equipamento de fabrico de chips para a China e aumentar a fiscalização contra o contrabando de chips.

Apelou também à proibição de operações de destilação de modelos de IA à escala industrial e à exigência de testes de segurança obrigatórios tanto para modelos abertos como fechados poderosos.

Estas medidas visariam o acesso a recursos computacionais e exigiriam que as empresas avaliassem modelos avançados antes da implementação ou divulgação.

Empresas de tecnologia opõem-se a restrições precoces

A NVIDIA, Meta, Microsoft e outras empresas de tecnologia alertaram recentemente os decisores políticos dos EUA contra a introdução de restrições prematuras à IA de peso aberto.

As empresas argumentaram que os modelos abertos apoiam o crescimento económico, incentivam a inovação e ajudam os investigadores a desenvolver ferramentas de segurança de IA mais robustas. A Anthropic não assinou a carta do setor.

Amodei reconheceu que os modelos de peso aberto podem apoiar a investigação e o crescimento económico. No entanto, argumentou que os decisores políticos não devem ignorar a sua potencial utilização em ciberataques, sistemas militares, vigilância ou no desenvolvimento de IA mais capaz.

Noutras notícias da Anthropic, a empresa lançou recentemente o Claude Opus 5.