Google dice que Gemini no entrena con documentos privados tras afirmaciones sobre la filtración de contenido de un juego inédito

Un desarrollador independiente ha desencadenado un nuevo debate sobre la privacidad en torno al asistente de IA de Google. El descubrimiento inesperado involucra contenido de un juego no anunciado que nunca se había hecho público. Sin embargo, Google afirma que su IA no fue entrenada utilizando Google Docs privados.

Las afirmaciones provienen de Klub Kofta Studio, el desarrollador en solitario detrás de Operation Octo. Según una publicación de Reddit, un jugador preguntó casualmente a la búsqueda con IA de Google sobre el juego. Aunque varias respuestas no acertaron, otras parecían sorprendentemente precisas.

Un nombre de personaje no anunciado levantó sospechas

La mayor sorpresa llegó cuando, según se informa, Gemini identificó «Vantage Tripod», un personaje no anunciado que el desarrollador afirma que solo existía dentro de un documento de planificación privado de Google Docs.

Klub Kofta Studio afirma que el nombre no estaba almacenado en los archivos del juego, no se subió a Steam ni se compartió públicamente en ningún lugar. Además, según los informes, el jugador utilizó Gemini a través de una sesión de navegador en modo incógnito.

El desarrollador afirmó además que Gemini mencionó mecánicas adicionales no anunciadas que solo aparecían en las notas de desarrollo internas más recientes.

Google afirma que los Docs privados no se utilizan para el entrenamiento de IA

Google ha rechazado las afirmaciones de que Gemini entrene con archivos privados de Workspace. En una declaración compartida con Polygon, la empresa afirmó que los archivos privados de Google Docs y Drive no se escanean para entrenar sus modelos de IA fundamentales.

Google explicó que Gemini solo accede a los archivos de Workspace cuando los usuarios lo solicitan explícitamente. La empresa también destacó que los usuarios controlan la configuración de uso compartido de documentos y que los archivos compartidos públicamente aún pueden ser indexados por los motores de búsqueda.

Esto es exactamente lo que señaló el representante de Google, según el medio de comunicación:

• Google no analiza tu contenido privado de Workspace (que incluye Drive y Docs) para entrenar nuestros modelos de IA fundamentales (incluido Gemini).
• Los enlaces a documentos compartidos públicamente pueden indexarse si alguien los publica en algún lugar público, donde puedan ser vistos por los rastreadores de los motores de búsqueda.
• Los usuarios tienen el control total sobre su configuración de uso compartido para el contenido de Drive (como Docs) — consulta este recurso para obtener detalles sobre cómo ajustarlos.
• Puedes encontrar más detalles sobre cómo funcionan estos ajustes de privacidad aquí.

Dicho esto, todavía no hay una explicación confirmada de cómo Gemini generó la información no anunciada. Si se debió a otra fuente, una exposición accidental o una coincidencia inusual, sigue sin estar claro.