Google dice que Gemini no se entrena con documentos privados tras las denuncias de filtración de contenido de juegos no publicados

Un desarrollador independiente ha provocado un nuevo debate sobre la privacidad en torno al asistente de IA de Google. El descubrimiento inesperado involucra contenido de un juego no publicado que nunca se había anunciado públicamente. Google, sin embargo, afirma que su IA no fue entrenada con Documentos de Google privados.

Las afirmaciones provienen de Klub Kofta Studio, el desarrollador en solitario detrás de Operation Octo. Según una publicación en Reddit, un jugador le hizo casualmente a la Búsqueda de IA de Google preguntas sobre el juego. Si bien varias respuestas no dieron en el blanco, otras resultaron sorprendentemente precisas.

El nombre de un personaje no revelado levantó sospechas

La mayor sorpresa llegó cuando, según los informes, Gemini identificó a «Vantage Tripod», un personaje no publicado que, según el desarrollador, solo existía dentro de un documento privado de planificación de Google Docs.

Klub Kofta Studio afirma que el nombre no estaba almacenado en los archivos del juego, ni subido a Steam, ni compartido públicamente en ningún sitio. El jugador también habría usado Gemini a través de una sesión de navegador en modo incógnito.

El desarrollador también afirmó que Gemini mencionó mecánicas adicionales no publicadas que solo aparecían en notas de desarrollo internas recientes.

Google afirma que los Docs privados no se utilizan para el entrenamiento de IA

Google ha rechazado las insinuaciones de que Gemini entrene con archivos privados de Workspace. En un comunicado compartido con Polygon, la compañía afirmó que los Documentos de Google y los archivos de Drive privados no se analizan para entrenar sus modelos de IA fundamentales.

Google explicó que Gemini solo accede a los archivos de Workspace cuando los usuarios lo solicitan explícitamente. La compañía también subrayó que los usuarios controlan la configuración de uso compartido de los documentos y que los archivos compartidos públicamente aún pueden ser indexados por los motores de búsqueda.

Esto es exactamente lo que señaló el representante de Google, según el medio:

• Google no analiza tu contenido privado de Workspace (que incluye Drive y Docs) para entrenar nuestros modelos de IA fundamentales (incluido Gemini).
• Los enlaces a documentos compartidos públicamente pueden indexarse si alguien los publicó en algún lugar de forma pública, donde los rastreadores de motores de búsqueda pudieran verlos.
• Los usuarios tienen control total sobre la configuración de uso compartido del contenido de Drive (como Docs); consulta este recurso para obtener más información sobre cómo ajustarla.
• Puedes encontrar más información sobre cómo funciona esta configuración de privacidad aquí.

Dicho esto, todavía no hay una explicación confirmada sobre cómo Gemini generó la información no publicada. Aún no está claro si fue el resultado de otra fuente, una exposición accidental o una coincidencia inusual.