IA tem mais de 10% de chance de matar todos os humanos na próxima década, alerta assustador vem de fontes internas da Anthropic

O ex-investigador da Anthropic Jacob Coxon fez uma previsão arrepiante sobre onde a corrida da IA pode eventualmente conduzir. Numa thread no X, afirmou acreditar que existe uma possibilidade séria de que sistemas de IA cada vez mais poderosos possam representar uma ameaça existencial para a humanidade. A apoiar a sua avaliação, o Líder de Ciência do Alinhamento da Anthropic, Evan Hubinger, acrescentou um número, o que torna o nível de risco difícil de ignorar.

Ex-investigador da Anthropic Jacob Coxon levanta preocupações sobre o futuro da IA

Coxon demitiu-se da Anthropic depois de levantar preocupações sobre o rumo da empresa e a corrida mais alargada rumo a sistemas de IA cada vez mais poderosos. As suas preocupações surgem numa altura em que as grandes empresas de IA estão a avançar de forma agressiva rumo a sistemas capazes de lidar com tarefas cada vez mais complexas e com menos envolvimento humano.

A maior preocupação é o que acontece se os futuros sistemas de IA se tornarem capazes de se melhorarem a si próprios ou de funcionar com uma autonomia significativamente maior. Controlar esses sistemas pode tornar-se muito mais difícil se as suas capacidades ultrapassarem a compreensão humana.

O aviso de Coxon também evidencia uma divisão crescente na indústria da IA. As empresas competem para criar modelos mais capazes, enquanto os investigadores continuam a trabalhar em formas de manter esses sistemas seguros.

O valor de 10% torna o aviso ainda mais sério

O Líder de Ciência do Alinhamento da Anthropic, Evan Hubinger, apoiou a avaliação de Coxon e estimou que a IA tem mais de 10% de probabilidades de matar todos os seres humanos na próxima década. Esta estimativa é uma avaliação pessoal de Hubinger, e não uma previsão oficial da Anthropic. Numa publicação de seguimento no X, citando o relatório oficial de avaliação de riscos da Anthropic, Hubinger acrescentou que «o risco dos modelos atuais é baixo. O que me preocupa é a superinteligência decorrente do autoaperfeiçoamento recursivo, que, como já dissemos, está a acontecer mais depressa do que pensávamos.» Pode consultar a publicação abaixo:

No entanto, as preocupações de Coxon e a estimativa de Hubinger apontam para a mesma questão incómoda em torno da IA avançada.

Os investigadores de segurança da IA passaram anos a trabalhar no alinhamento, o que, em termos gerais, significa garantir que os sistemas de IA poderosos se comportem de acordo com as intenções humanas. Dito isto, continua a não existir uma solução garantida para controlar sistemas superinteligentes hipotéticos. A tecnologia pode avançar consideravelmente antes de os investigadores compreenderem totalmente como gerir esses riscos.

A corrida da IA mostra poucos sinais de abrandamento

No início do boom da IA generativa, as preocupações centravam-se sobretudo na desinformação, no emprego e na utilização indevida. Hoje, os investigadores discutem cada vez mais consequências muito mais graves. Não é claro se estes avisos acabarão por parecer razoáveis ou extremamente pessimistas.

As preocupações com sistemas de IA cada vez mais capazes não são totalmente infundadas. O GPT-6 Astra da OpenAI alegadamente alcançou uma pontuação de 99,9% no ARC-AGI-3 e de 100% no ExploitBench, o que evidencia a rapidez com que estes modelos estão a avançar. Ao mesmo tempo, a OpenAI reconheceu casos em que agentes de IA se coordenaram através de uma wiki de programação alemã, o que reforça as preocupações sobre a forma como os sistemas autónomos podem ser utilizados indevidamente ou comportar-se de maneiras inesperadas.