Google zegt dat Gemini niet traint op privédocumenten na beweringen over een lek van niet-uitgebrachte gamecontent

Een indie-ontwikkelaar heeft een nieuw privacydebat aangewakkerd rondom Google’s AI-assistent. De onverwachte ontdekking betreft niet-uitgebrachte gamecontent die nooit openbaar was aangekondigd. Google zegt echter dat zijn AI niet is getraind met behulp van privé Google Docs.

De beweringen komen van Klub Kofta Studio, de solo-ontwikkelaar achter Operation Octo. Volgens een Reddit-bericht stelde een speler terloops vragen over de game aan Google’s AI-zoekopdracht. Hoewel verschillende antwoorden de plank missloegen, leken andere verrassend accuraat.

Een niet-uitgebrachte karakternaam deed wenkbrauwen fronsen

De grootste verrassing kwam toen Gemini naar verluidt “Vantage Tripod” identificeerde, een niet-uitgebracht karakter dat volgens de ontwikkelaar alleen bestond in een privé Google Docs-plandocument.

Klub Kofta Studio zegt dat de naam niet was opgeslagen in gamebestanden, geüpload naar Steam of ergens openbaar gedeeld. De speler gebruikte Gemini naar verluidt ook via een incognito-browsersessie.

De ontwikkelaar beweerde verder dat Gemini aanvullende niet-uitgebrachte mechanics noemde die alleen in recente interne ontwikkelnotities verschenen.

Google zegt dat privé-Docs niet worden gebruikt voor AI-training

Google heeft suggesties verworpen dat Gemini traint op privé Workspace-bestanden. In een verklaring gedeeld met Polygon, zei het bedrijf dat privé Google Docs- en Drive-bestanden niet worden gescand om zijn fundamentele AI-modellen te trainen.

Google legde uit dat Gemini alleen toegang heeft tot Workspace-bestanden wanneer gebruikers daar expliciet om vragen. Het bedrijf benadrukte ook dat gebruikers de instellingen voor het delen van documenten beheren en dat openbaar gedeelde bestanden nog steeds door zoekmachines kunnen worden geïndexeerd.

Dit is precies wat een woordvoerder van Google aanwees, volgens de nieuwsbron:

• Google scant je privé Workspace-inhoud (inclusief Drive en Docs) niet om onze fundamentele AI-modellen (waaronder Gemini) te trainen.
• Links naar openbaar gedeelde documenten kunnen worden geïndexeerd als iemand ze ergens openbaar heeft geplaatst, waar ze zichtbaar zouden kunnen zijn voor crawlers van zoekmachines.
• Gebruikers hebben volledige controle over hun deelinstellingen voor Drive-inhoud (zoals Docs) — zie deze bron voor details over hoe je ze kunt aanpassen.
• Meer details over hoe deze privacy-instellingen werken, vind je hier.

Dat gezegd hebbende, is er nog steeds geen bevestigde verklaring voor hoe Gemini de niet-uitgebrachte informatie heeft gegenereerd. Of het nu het resultaat is van een andere bron, onbedoelde blootstelling of een ongewoon toeval, blijft onduidelijk.