Satya Nadella: Não vale a pena perseguir a superinteligência sem controlo humano e benefícios para a humanidade

Embora a Microsoft seja aberta em relação à adoção de IA e tenha vindo a integrar os seus modelos de IA internos nos seus produtos e serviços, o CEO da empresa, Satya Nadella, falou abertamente sobre a próxima fase da IA e quer que um princípio seja mantido no centro. Qualquer procura pela superinteligência, afirma, tem, em última análise, de ajudar a humanidade, mantendo as pessoas no controlo.

Nadella quer que os benefícios da IA sejam distribuídos por todo o ecossistema

Numa publicação no X, Nadella defendeu que os benefícios da IA devem chegar de forma alargada a países, comunidades e empresas. Apelou ainda a um ecossistema de IA onde tanto os modelos fechados como os de código aberto se possam desenvolver.

Essa abordagem poderá pôr em causa a ideia de que uma IA cada vez mais capaz deva permanecer concentrada num pequeno grupo de empresas. Nadella afirmou que é necessária uma representação alargada entre países, indústrias, meio académico e o ecossistema de IA em geral.

Salientou ainda uma grande preocupação para as empresas que criam sistemas de IA. As empresas devem manter o controlo sobre o seu conhecimento único, em vez de ficarem dependentes de um único fornecedor de modelos. Segundo Nadella, as organizações devem poder criar os seus próprios ciclos de aprendizagem contínua. Devem também ter formas de incorporar o seu conhecimento proprietário em modelos e pesos que controlam.

A Microsoft está a preparar o seu próprio código de conduta para a IA

Nadella também acolheu favoravelmente mais investigação em torno do alinhamento da IA e daquilo que descreveu como um ritmo deliberado. Apontou especificamente para ideias como “avaliadores incorporados” como parte dos esforços para transformar os princípios de segurança da IA em mecanismos práticos.

Estas declarações surgem numa altura em que a Microsoft continua a desenvolver os seus próprios modelos MAI. Nadella afirmou que a empresa planeia publicar, para consulta pública, um Código de Conduta para os seus modelos MAI de primeira parte.

Isso poderá dar a investigadores, empresas e outros programadores de IA um olhar mais atento sobre os princípios que a Microsoft quer que orientem os seus modelos. Também se enquadra no argumento mais alargado de Nadella de que o desenvolvimento da IA deve oferecer escolha em todas as camadas da stack.

Num momento em que a corrida rumo a uma IA cada vez mais poderosa está a acelerar, os comentários de Nadella colocam o controlo e o acesso a par da capacidade bruta. Nos últimos dias, têm surgido alguns avisos arrepiantes vindos da indústria da IA, a par de algumas descobertas recentes, que sugerem que, se a IA não for controlada, poderá ter resultados catastróficos para a humanidade.