EUA supostamente excluem modelos de IA de pesos abertos de testes cibernéticos

Modelos de IA de peso aberto permanecerão, segundo informações, fora de um novo programa do governo dos EUA destinado a testar se sistemas avançados podem realizar operações cibernéticas sofisticadas.

Conselheiros do governo Trump comunicaram a decisão durante uma reunião na Casa Branca em 4 de agosto, com a presença de representantes da Meta, Google, Nvidia, OpenAI e Anthropic, segundo a Reuters.

Programa federal focará em modelos de IA proprietários

O quadro de testes voluntários surge na sequência de uma ordem executiva de 2 de junho que instruiu as agências federais a criarem referências classificadas para capacidades avançadas de cibersegurança em IA.

As autoridades querem determinar se os modelos de ponta podem realizar operações cibernéticas complexas que possam ameaçar sistemas governamentais, infraestruturas críticas ou organizações privadas.

Discussões anteriores terão, segundo informações, finalizado os preparativos para testar sistemas proprietários poderosos, incluindo os modelos Mythos e Fable da Anthropic e o GPT-5.6 Sol da OpenAI.

No entanto, o quadro atual excluirá, segundo informações, os modelos de peso aberto. Estes sistemas permitem que os programadores descarreguem, inspecionem, modifiquem e implementem os pesos subjacentes do modelo, em vez de acederem aos mesmos apenas através de um serviço controlado pela empresa.

Exclusão de modelos de peso aberto pode deixar uma lacuna de segurança

A isenção noticiada pode criar uma lacuna significativa no sistema de avaliação do governo federal.

Os modelos de peso aberto podem propagar-se rapidamente porque indivíduos e organizações podem copiá-los e modificá-los sem dependerem da infraestrutura do programador original. Os programadores também podem remover salvaguardas incorporadas, ajustar modelos para tarefas especializadas ou executá-los de forma privada.

Um modelo de peso aberto altamente capaz poderia, portanto, alcançar um grande número de utilizadores sem enfrentar os mesmos testes federais de cibersegurança que os sistemas proprietários de ponta.

O governo não esclareceu se a exclusão abrange todos os lançamentos de peso aberto ou apenas modelos que fiquem abaixo de um determinado limiar de capacidade.

A Anthropic afirmou recentemente que não apoia a proibição de modelos de IA de peso aberto, apesar de alertar repetidamente que sistemas avançados de IA podem criar sérios riscos de segurança cibernética e segurança nacional.

Detalhes importantes sobre o programa permanecem obscuros

A Casa Branca não identificou qual a agência federal que irá operar o programa de testes ou gerir o acesso às referências classificadas.

As autoridades também não explicaram se irão publicar quaisquer resultados das avaliações. Manter as conclusões classificadas poderia ajudar a proteger métodos de teste sensíveis, mas daria aos investigadores e ao público pouca informação sobre as capacidades descobertas durante as avaliações.

A administração não divulgou que consequências uma empresa poderá enfrentar se o seu modelo demonstrar capacidades cibernéticas perigosas. A natureza voluntária do programa também levanta questões sobre se os programadores poderão recusar testes adicionais ou continuar a lançar um modelo após resultados preocupantes.

As autoridades poderão eventualmente criar um quadro separado para sistemas de peso aberto, embora não tenha sido anunciado qualquer programa nesse sentido.

A decisão surge numa altura em que governos e empresas de IA examinam a forma como os agentes autónomos interagem com sistemas reais. Num caso separado, agentes da OpenAI e da Anthropic visaram pessoas reais durante testes de cibersegurança, realçando os riscos que podem surgir quando modelos avançados operam para além de ambientes controlados.