Google afferma che Gemini non si addestra su documenti privati dopo dichiarazioni di una fuga di contenuti di un gioco inedito

Uno sviluppatore indipendente ha acceso un nuovo dibattito sulla privacy riguardante l’assistente AI di Google. La scoperta inaspettata riguarda contenuti di un gioco mai rilasciati che non erano mai stati annunciati pubblicamente. Google, tuttavia, afferma che la sua AI non è stata addestrata utilizzando documenti Google Docs privati.

Le affermazioni provengono da Klub Kofta Studio, lo sviluppatore solista dietro Operation Octo. Secondo un post su Reddit, un giocatore ha chiesto casualmente all’AI Search di Google alcune domande sul gioco. Mentre diverse risposte hanno mancato il bersaglio, altre apparivano sorprendentemente accurate.

Il nome di un personaggio inedito ha destato sospetti

La sorpresa più grande è arrivata quando Gemini avrebbe identificato “Vantage Tripod”, un personaggio inedito che lo sviluppatore afferma esistesse solo all’interno di un documento di pianificazione privato su Google Docs.

Klub Kofta Studio afferma che il nome non era archiviato nei file di gioco, caricato su Steam o condiviso pubblicamente in alcun luogo. Il giocatore, inoltre, avrebbe utilizzato Gemini tramite una sessione di navigazione in incognito.

Lo sviluppatore ha ulteriormente affermato che Gemini ha menzionato meccaniche aggiuntive inedite che apparivano solo nelle recenti note di sviluppo interne.

Google afferma che i documenti Docs privati non vengono utilizzati per l’addestramento dell’AI

Google ha respinto le ipotesi che Gemini si addestri su file Workspace privati. In una dichiarazione condivisa con Polygon, l’azienda ha affermato che i file privati di Google Docs e Drive non vengono analizzati per addestrare i suoi modelli AI di base.

Google ha spiegato che Gemini accede ai file di Workspace solo quando gli utenti lo richiedono esplicitamente. L’azienda ha inoltre sottolineato che gli utenti controllano le impostazioni di condivisione dei documenti e che i file condivisi pubblicamente possono ancora essere indicizzati dai motori di ricerca.

Ecco cosa ha precisato esattamente il rappresentante di Google, come riportato dalla testata:

• Google non analizza i tuoi contenuti privati di Workspace (che includono Drive e Docs) per addestrare i nostri modelli AI di base (incluso Gemini).
• I collegamenti a documenti condivisi pubblicamente possono essere indicizzati se qualcuno li ha pubblicati da qualche parte pubblicamente, dove possono essere visti dai crawler dei motori di ricerca.
• Gli utenti hanno il pieno controllo sulle impostazioni di condivisione dei contenuti di Drive (come Docs) — vedi questa risorsa per i dettagli su come modificarle.
• Maggiori dettagli su come funzionano queste impostazioni sulla privacy sono disponibili qui.

Detto questo, non esiste ancora una spiegazione confermata su come Gemini abbia generato le informazioni inedite. Se sia il risultato di un’altra fonte, di un’esposizione accidentale o di una coincidenza insolita rimane poco chiaro.