Google zegt dat Gemini niet traint op privédocumenten na beweringen over een lek van niet-uitgebrachte gamecontent

Een indie-ontwikkelaar heeft een nieuw privacydebat aangewakkerd rondom Google’s AI-assistent. De onverwachte ontdekking betreft niet-uitgebrachte gamecontent die nooit publiekelijk was aangekondigd. Google zegt echter dat zijn AI niet is getraind met behulp van privé Google Docs.

De beweringen komen van Klub Kofta Studio, de solo-ontwikkelaar achter Operation Octo. Volgens een Reddit-bericht stelde een speler terloops vragen over de game aan Google’s AI Search. Hoewel verschillende antwoorden de plank missloegen, leken andere verrassend accuraat.

Een niet-uitgebrachte personagenaam deed wenkbrauwen fronsen

De grootste verrassing kwam toen Gemini naar verluidt “Vantage Tripod” identificeerde, een niet-uitgebracht personage dat volgens de ontwikkelaar alleen bestond in een privé Google Docs-planningsdocument.

Klub Kofta Studio zegt dat de naam niet in gamebestanden stond, niet naar Steam was geüpload en nergens openbaar was gedeeld. De speler gebruikte Gemini naar verluidt ook via een incognito browsersessie.

De ontwikkelaar beweerde verder dat Gemini nog meer niet-uitgebrachte gameplay-mechanics noemde die alleen in recente interne ontwikkelnotities verschenen.

Google zegt dat privé-Docs niet worden gebruikt voor AI-training

Google heeft suggesties verworpen dat Gemini traint op privé Workspace-bestanden. In een verklaring aan Polygon zei het bedrijf dat privé Google Docs- en Drive-bestanden niet worden gescand om zijn fundamentele AI-modellen te trainen.

Google legde uit dat Gemini alleen toegang heeft tot Workspace-bestanden wanneer gebruikers daar expliciet om vragen. Het bedrijf benadrukte ook dat gebruikers de deelmachtigingen van documenten beheren en dat openbaar gedeelde bestanden nog steeds door zoekmachines kunnen worden geïndexeerd.

Dit is wat de Google-woordvoerder precies aangaf, volgens de nieuwsbron:

• Google scant uw privé Workspace-inhoud (waaronder Drive en Docs) niet om onze fundamentele AI-modellen (waaronder Gemini) te trainen.
• Koppelingen naar openbaar gedeelde documenten kunnen worden geïndexeerd als iemand ze ergens openbaar plaatst, waar ze zichtbaar kunnen zijn voor crawlers van zoekmachines.
• Gebruikers hebben volledige controle over hun deelmachtigingen voor Drive-inhoud (zoals Docs) – zie deze bron voor meer informatie over hoe u deze kunt aanpassen.
• Meer details over hoe deze privacy-instellingen werken, vindt u hier.

Dat gezegd hebbende, is er nog geen bevestigde verklaring voor hoe Gemini de niet-uitgebrachte informatie heeft gegenereerd. Of het nu om een andere bron, onbedoelde blootstelling of een ongebruikelijk toeval gaat, blijft onduidelijk.