Anthropic diz que não apoia a proibição de modelos de IA de pesos abertos

A Anthropic clarificou a sua posição sobre modelos de IA de pesos abertos, com o CEO Dario Amodei a afirmar que a empresa nunca apoiou uma proibição. No entanto, continua a alertar que modelos abertos poderosos podem criar grandes riscos de segurança e geopolíticos.

Anthropic levanta preocupações sobre a China

Amodei alertou que governos autoritários, incluindo a China, podem usar modelos de IA avançados para fortalecer capacidades militares, desenvolver sistemas mais poderosos e expandir a vigilância.

Também manifestou preocupação com a possibilidade de a China, eventualmente, construir modelos de IA que superem os desenvolvidos nos Estados Unidos.

A Anthropic acusou recentemente a Alibaba de usar 25.000 contas falsas para extrair capacidades do Claude. A Alibaba também estará, alegadamente, a preparar-se para restringir a utilização do Claude Code no seu local de trabalho.

Modelos abertos podem permitir a utilização indevida

Amodei afirmou que agentes maliciosos podem usar modelos de IA poderosos para conduzir ciberataques e outras atividades prejudiciais.

Os modelos de pesos abertos podem apresentar riscos adicionais porque os programadores não conseguem monitorizar facilmente como as pessoas os utilizam. Uma vez lançado, uma empresa também não pode retirar o modelo, atualizar as suas salvaguardas nem impedir a propagação de versões modificadas.

Amodei rejeitou as alegações de que os modelos abertos tornam automaticamente a IA mais segura ou proporcionam consistentemente aos defensores uma vantagem maior sobre os atacantes.

Amodei propõe quatro medidas de segurança

O CEO da Anthropic propôs várias políticas para gerir os riscos da IA avançada, incluindo restringir as exportações de chips avançados e equipamento de fabrico de chips para a China e aumentar a fiscalização contra o contrabando de chips.

Apelou também à proibição de operações de destilação de modelos de IA à escala industrial e à exigência de testes de segurança obrigatórios para modelos avançados, tanto abertos como fechados.

Estas medidas visariam o acesso a recursos computacionais e exigiriam que as empresas avaliassem modelos avançados antes da implementação ou lançamento.

Empresas de tecnologia opõem-se a restrições precoces

A NVIDIA, Meta, Microsoft e outras empresas de tecnologia alertaram recentemente os decisores políticos norte-americanos contra a introdução de restrições prematuras à IA de pesos abertos.

As empresas argumentaram que os modelos abertos apoiam o crescimento económico, incentivam a inovação e ajudam os investigadores a desenvolver ferramentas de segurança de IA mais robustas. A Anthropic não assinou a carta da indústria.

Amodei reconheceu que os modelos de pesos abertos podem apoiar a investigação e o crescimento económico. No entanto, argumentou que os decisores políticos não devem ignorar a sua potencial utilização em ciberataques, sistemas militares, vigilância ou no desenvolvimento de IA mais capaz.

Em outras notícias da Anthropic, a empresa lançou recentemente o Claude Opus 5.