EUA supostamente exclui modelos de IA com pesos abertos de testes cibernéticos

Modelos de IA de peso aberto permanecerão, segundo consta, de fora de um novo programa do governo dos EUA destinado a testar se sistemas avançados podem realizar operações cibernéticas sofisticadas.

Conselheiros do governo Trump comunicaram a decisão durante uma reunião na Casa Branca, em 4 de agosto, com a presença de representantes da Meta, Google, Nvidia, OpenAI e Anthropic, de acordo com a Reuters.

Programa federal focará em modelos de IA proprietários

O quadro de testes voluntários decorre de uma ordem executiva de 2 de junho que instruiu agências federais a criar referências classificadas para capacidades avançadas de cibersegurança de IA.

Os responsáveis pretendem determinar se os modelos de fronteira conseguem realizar operações cibernéticas complexas que poderiam ameaçar sistemas governamentais, infraestruturas críticas ou organizações privadas.

Discussões anteriores terão finalizado os preparativos para testar sistemas proprietários poderosos, incluindo os modelos Mythos e Fable da Anthropic e o GPT-5.6 Sol da OpenAI.

No entanto, o quadro atual irá, segundo consta, excluir os modelos de peso aberto. Estes sistemas permitem que os programadores descarreguem, inspecionem, modifiquem e implementem os pesos dos modelos subjacentes, em vez de acederem aos mesmos apenas através de um serviço controlado pela empresa.

Exclusão de modelos de peso aberto pode deixar uma lacuna de segurança

A isenção noticiada pode criar uma lacuna significativa no sistema de avaliação do governo federal.

Os modelos de peso aberto podem propagar-se rapidamente porque indivíduos e organizações podem copiá-los e modificá-los sem depender da infraestrutura do programador original. Os programadores também podem remover salvaguardas incorporadas, ajustar os modelos para tarefas especializadas ou executá-los de forma privada.

Um modelo de peso aberto altamente capaz poderia, portanto, alcançar um grande número de utilizadores sem ser submetido aos mesmos testes federais de cibersegurança que os sistemas proprietários de fronteira.

O governo não clarificou se a exclusão abrange todos os lançamentos de peso aberto ou apenas os modelos que ficam abaixo de um determinado limiar de capacidade.

A Anthropic afirmou recentemente que não apoia a proibição de modelos de IA de peso aberto, apesar de ter alertado repetidamente que sistemas avançados de IA podem criar sérios riscos de cibersegurança e segurança nacional.

Detalhes-chave sobre o programa permanecem incertos

A Casa Branca não identificou qual a agência federal que irá operar o programa de testes ou gerir o acesso às referências classificadas.

Os responsáveis também não explicaram se irão publicar quaisquer resultados das avaliações. Manter as conclusões classificadas poderia ajudar a proteger métodos de teste sensíveis, mas daria aos investigadores e ao público pouca informação sobre as capacidades descobertas durante as avaliações.

A administração não revelou que consequências uma empresa poderia enfrentar se o seu modelo demonstrar capacidades cibernéticas perigosas. A natureza voluntária do programa também levanta questões sobre se os programadores poderiam recusar testes adicionais ou continuar a lançar um modelo após resultados preocupantes.

Os responsáveis poderão, eventualmente, criar um quadro separado para os sistemas de peso aberto, embora nenhum programa desse tipo tenha sido anunciado.

A decisão surge num momento em que governos e empresas de IA examinam a forma como os agentes autónomos interagem com sistemas reais. Num caso à parte, agentes da OpenAI e da Anthropic visaram pessoas reais durante testes de cibersegurança, salientando os riscos que podem surgir quando modelos avançados operam fora de ambientes controlados.