Google dichiara che Gemini non si addestra su documenti privati dopo le segnalazioni di una fuga di contenuti di giochi inediti

Uno sviluppatore indie ha scatenato un nuovo dibattito sulla privacy che circonda l’assistente AI di Google. La scoperta inaspettata riguarda contenuti di gioco inediti che non erano mai stati annunciati pubblicamente. Google, tuttavia, afferma che la sua IA non è stata addestrata utilizzando documenti privati di Google Docs.

Le affermazioni provengono da Klub Kofta Studio, lo sviluppatore solista di Operation Octo. Secondo un post su Reddit, un giocatore ha posto casualmente domande all’AI Search di Google sul gioco. Mentre diverse risposte erano fuori strada, altre sono apparse sorprendentemente accurate.

Il nome di un personaggio inedito ha sollevato qualche sopracciglio

La sorpresa più grande è arrivata quando Gemini avrebbe identificato “Vantage Tripod”, un personaggio inedito che lo sviluppatore afferma esisteva soltanto all’interno di un documento di pianificazione privato su Google Docs.

Klub Kofta Studio afferma che il nome non era memorizzato nei file del gioco, caricato su Steam o condiviso pubblicamente in qualsiasi luogo. Inoltre, si dice che il giocatore abbia usato Gemini tramite una sessione di navigazione in incognito.

Lo sviluppatore ha inoltre sostenuto che Gemini ha menzionato ulteriori meccaniche inedite che comparivano solo in recenti note di sviluppo interne.

Google afferma che i documenti privati di Docs non vengono usati per addestrare l’IA

Google ha respinto le ipotesi che Gemini venga addestrato su file privati di Workspace. In una dichiarazione condivisa con Polygon, l’azienda ha affermato che i file privati di Google Docs e Drive non vengono analizzati per addestrare i suoi modelli fondamentali di IA.

Google ha spiegato che Gemini accede ai file di Workspace solo quando gli utenti lo richiedono esplicitamente. L’azienda ha anche sottolineato che gli utenti controllano le impostazioni di condivisione dei documenti e che i file condivisi pubblicamente potrebbero comunque essere indicizzati dai motori di ricerca.

Ecco esattamente quanto sottolineato dal rappresentante di Google, secondo la testata giornalistica:

• Google non analizza i tuoi contenuti privati di Workspace (che includono Drive e Docs) per addestrare i nostri modelli fondamentali di IA (incluso Gemini).
• I link a documenti condivisi pubblicamente potrebbero essere indicizzati se qualcuno li ha pubblicati in qualche luogo pubblico, dove possono essere visti dai crawler dei motori di ricerca.
• Gli utenti hanno il pieno controllo sulle impostazioni di condivisione per i contenuti di Drive (come Docs) — consulta questa risorsa per i dettagli su come modificarle.
• Maggiori dettagli su come funzionano queste impostazioni sulla privacy sono disponibili qui.

Detto ciò, non esiste ancora una spiegazione confermata su come Gemini abbia generato le informazioni inedite. Se sia il risultato di un’altra fonte, un’esposizione accidentale o una coincidenza insolita, resta poco chiaro.