Google afferma che Gemini non si addestra su Docs privati dopo accuse di fuga di contenuti di giochi inediti

Uno sviluppatore indie ha acceso un nuovo dibattito sulla privacy riguardante l’assistente AI di Google. La scoperta inaspettata coinvolge contenuti di gioco inediti che non erano mai stati annunciati pubblicamente. Google, tuttavia, afferma che la sua IA non è stata addestrata utilizzando Documenti Google privati.

Le affermazioni provengono da Klub Kofta Studio, lo sviluppatore solista dietro Operation Octo. Secondo un post su Reddit, un giocatore ha chiesto casualmente all’assistente AI di Google informazioni sul gioco. Sebbene diverse risposte fossero fuori bersaglio, altre apparivano sorprendentemente accurate.

Il nome di un personaggio inedito ha destato sospetti

La sorpresa più grande è arrivata quando Gemini avrebbe identificato “Vantage Tripod”, un personaggio inedito che lo sviluppatore sostiene esistesse solo all’interno di un documento di pianificazione privato su Google Docs.

Klub Kofta Studio afferma che il nome non era memorizzato nei file di gioco, caricato su Steam, né condiviso pubblicamente da nessuna parte. Il giocatore avrebbe inoltre utilizzato Gemini tramite una sessione di navigazione in incognito.

Lo sviluppatore ha ulteriormente sostenuto che Gemini ha menzionato meccaniche inedite aggiuntive che apparivano solo in recenti note di sviluppo interne.

Google afferma che i documenti privati non vengono utilizzati per l’addestramento dell’IA

Google ha respinto le ipotesi secondo cui Gemini si addestri sui file privati di Workspace. In una dichiarazione condivisa con Polygon, l’azienda ha affermato che i documenti Google e i file di Drive privati non vengono analizzati per addestrare i suoi modelli di IA fondamentali.

Google ha spiegato che Gemini accede ai file di Workspace solo quando gli utenti lo richiedono esplicitamente. L’azienda ha inoltre sottolineato che gli utenti controllano le impostazioni di condivisione dei documenti e che i file condivisi pubblicamente possono comunque essere indicizzati dai motori di ricerca.

Ecco cosa ha precisato esattamente il rappresentante di Google, secondo la testata giornalistica:

• Google non analizza i tuoi contenuti privati di Workspace (che includono Drive e Docs) per addestrare i nostri modelli di IA fondamentali (incluso Gemini).
• I link a documenti condivisi pubblicamente possono essere indicizzati se qualcuno li ha pubblicati pubblicamente da qualche parte, dove potrebbero essere visti dai crawler dei motori di ricerca.
• Gli utenti hanno il pieno controllo sulle impostazioni di condivisione dei contenuti di Drive (come Docs) – consulta questa risorsa per i dettagli su come modificarle.
• Ulteriori dettagli sul funzionamento di queste impostazioni sulla privacy sono disponibili qui.

Detto questo, non esiste ancora una spiegazione confermata su come Gemini abbia generato le informazioni inedite. Non è chiaro se sia stato il risultato di un’altra fonte, di un’esposizione accidentale o di una coincidenza insolita.