Google diz que o Gemini não treina com documentos privados após alegações de vazamento de conteúdo de jogo não lançado

Um desenvolvedor independente provocou um novo debate sobre privacidade em torno do assistente de IA da Google. A descoberta inesperada envolve conteúdo de jogo não lançado que nunca foi anunciado publicamente. A Google, no entanto, afirma que a sua IA não foi treinada com Google Docs privados.

As alegações partem do Klub Kofta Studio, o programador a solo por trás de Operation Octo. De acordo com uma publicação no Reddit, um jogador fez perguntas casuais à Pesquisa de IA da Google sobre o jogo. Embora várias respostas tenham falhado o alvo, outras pareceram surpreendentemente precisas.

Um nome de personagem não lançado levantou suspeitas

A maior surpresa surgiu quando o Gemini alegadamente identificou “Vantage Tripod”, um personagem não lançado que o programador diz existir apenas dentro de um documento privado do Google Docs de planeamento.

O Klub Kofta Studio afirma que o nome não estava armazenado nos ficheiros do jogo, não foi carregado para a Steam, nem partilhado publicamente em lado nenhum. O jogador também terá usado o Gemini através de uma sessão de navegação anónima.

O programador afirmou ainda que o Gemini mencionou mecânicas adicionais não lançadas que só apareceram em notas de desenvolvimento internas recentes.

Google diz que Docs privados não são usados para treino de IA

A Google rejeitou as sugestões de que o Gemini treina com ficheiros privados do Workspace. Numa declaração partilhada com a Polygon, a empresa afirmou que os Google Docs e os ficheiros do Drive privados não são analisados para treinar os seus modelos de IA fundamentais.

A Google explicou que o Gemini apenas acede a ficheiros do Workspace quando os utilizadores o solicitam explicitamente. A empresa também sublinhou que os utilizadores controlam as definições de partilha de documentos e que os ficheiros partilhados publicamente podem ainda assim ser indexados pelos motores de busca.

Aqui está exatamente o que o representante da Google destacou, de acordo com o veículo de comunicação:

• A Google não analisa o seu conteúdo privado do Workspace (que inclui o Drive e o Docs) para treinar os nossos modelos de IA fundamentais (incluindo o Gemini).
• As ligações para documentos partilhados publicamente podem ser indexadas se alguém as publicar em algum lugar público, onde possam ser vistas por robots dos motores de busca.
• Os utilizadores têm controlo total sobre as definições de partilha do conteúdo do Drive (como o Docs) — consulte este recurso para obter detalhes sobre como ajustá-las.
• Mais detalhes sobre o funcionamento destas definições de privacidade podem ser encontrados aqui.

Dito isto, continua a não existir uma explicação confirmada para o Gemini ter gerado a informação não divulgada. Se resultou de outra fonte, de uma exposição acidental ou de uma coincidência invulgar ainda não está claro.