Google afferma che Gemini non si addestra su documenti privati di Docs dopo le accuse di fuga di contenuti di un gioco inedito

Uno sviluppatore indie ha acceso un nuovo dibattito sulla privacy riguardante l’assistente AI di Google. La scoperta inaspettata coinvolge contenuti di gioco inediti che non erano mai stati annunciati pubblicamente. Google, tuttavia, afferma che la sua AI non è stata addestrata utilizzando Google Docs privati.

Le affermazioni provengono da Klub Kofta Studio, lo sviluppatore solista dietro Operation Octo. Secondo un post su Reddit, un giocatore ha posto casualmente delle domande a Google AI Search riguardanti il gioco. Mentre diverse risposte erano fuori bersaglio, altre sembravano sorprendentemente accurate.

Un nome di personaggio inedito ha destato sospetti

La sorpresa più grande è arrivata quando Gemini avrebbe identificato “Vantage Tripod”, un personaggio inedito che lo sviluppatore afferma esisteva solo in un documento di pianificazione privato su Google Docs.

Klub Kofta Studio afferma che il nome non era memorizzato nei file di gioco, caricato su Steam o condiviso pubblicamente da nessuna parte. Il giocatore avrebbe anche utilizzato Gemini tramite una sessione di navigazione in incognito.

Lo sviluppatore ha inoltre affermato che Gemini ha menzionato ulteriori meccaniche di gioco inedite che apparivano solo in recenti note di sviluppo interne.

Google afferma che i documenti privati di Google Docs non vengono utilizzati per l’addestramento dell’AI

Google ha respinto le ipotesi secondo cui Gemini si addestra su file privati di Workspace. In una dichiarazione condivisa con Polygon, l’azienda ha affermato che i file privati di Google Docs e Drive non vengono analizzati per addestrare i propri modelli AI fondamentali.

Google ha spiegato che Gemini accede ai file di Workspace solo quando gli utenti lo richiedono esplicitamente. L’azienda ha inoltre sottolineato che gli utenti controllano le impostazioni di condivisione dei documenti e che i file condivisi pubblicamente possono comunque essere indicizzati dai motori di ricerca.

Ecco cosa ha sottolineato esattamente un rappresentante di Google, secondo la testata:

• Google non analizza i tuoi contenuti privati di Workspace (che includono Drive e Docs) per addestrare i nostri modelli AI fondamentali (incluso Gemini).
• I link a documenti condivisi pubblicamente possono essere indicizzati se qualcuno li ha pubblicati da qualche parte pubblicamente, dove possono essere visualizzati dai crawler dei motori di ricerca.
• Gli utenti hanno il pieno controllo sulle impostazioni di condivisione dei contenuti di Drive (come Docs) – consulta questa risorsa per i dettagli su come modificarle.
• Maggiori dettagli su come funzionano queste impostazioni sulla privacy sono disponibili qui.

Detto questo, non esiste ancora una spiegazione confermata su come Gemini abbia generato le informazioni inedite. Che sia il risultato di un’altra fonte, di un’esposizione accidentale o di una coincidenza insolita, rimane poco chiaro.