Google zegt dat Gemini niet traint op privédocumenten na beweringen van een lek van onuitgebrachte gamecontent

Een indie-ontwikkelaar heeft een nieuw privacydebat aangewakkerd rondom Google’s AI-assistent. De onverwachte ontdekking betreft nog niet uitgebrachte gamecontent die nooit publiekelijk was aangekondigd. Google zegt echter dat de AI niet is getraind met privé-Google Documenten.

De beweringen komen van Klub Kofta Studio, de solo-ontwikkelaar achter Operation Octo. Volgens een Reddit-bericht stelde een speler Google’s AI-zoekfunctie vragen over het spel. Terwijl meerdere antwoorden de plank missloegen, leken andere verrassend nauwkeurig.

Een nog niet uitgebrachte personagenaam deed wenkbrauwen fronsen

De grootste verrassing kwam toen Gemini naar verluidt “Vantage Tripod” identificeerde, een nog niet uitgebracht personage dat volgens de ontwikkelaar alleen bestond in een privé-Google Document dat bedoeld was voor planning.

Klub Kofta Studio zegt dat de naam niet in spelbestanden was opgeslagen, niet naar Steam was geüpload en nergens openbaar was gedeeld. De speler gebruikte Gemini naar verluidt ook via een incognito browsersessie.

De ontwikkelaar beweerde verder dat Gemini melding maakte van extra nog niet uitgebrachte mechanieken die alleen in recente interne ontwikkelingsnotities stonden.

Google zegt dat privé-Documenten niet worden gebruikt voor AI-training

Google heeft suggesties verworpen dat Gemini traint op privé-Workspace-bestanden. In een verklaring gedeeld met Polygon zei het bedrijf dat privé-Google Documenten en Drive-bestanden niet worden gescand om de fundamentele AI-modellen te trainen.

Google legde uit dat Gemini alleen toegang krijgt tot Workspace-bestanden wanneer gebruikers hier expliciet om vragen. Het bedrijf benadrukte ook dat gebruikers de controle hebben over de deelinstellingen van documenten en dat openbaar gedeelde bestanden nog steeds door zoekmachines kunnen worden geïndexeerd.

Dit is wat de vertegenwoordiger van Google precies aangaf, zoals gemeld door de nieuwsbron:

• Google scant uw privé Workspace-content (waaronder Drive en Documenten) niet om onze fundamentele AI-modellen (waaronder Gemini) te trainen.
• Links naar openbaar gedeelde documenten kunnen worden geïndexeerd als iemand ze ergens openbaar heeft geplaatst, waar ze door crawlers van zoekmachines kunnen worden opgemerkt.
• Gebruikers hebben volledige controle over hun deelinstellingen voor Drive-content (zoals Documenten) — zie deze bron voor details over hoe u deze kunt aanpassen.
• Meer details over hoe deze privacyinstellingen werken, vindt u hier.

Dat gezegd hebbende, is er nog steeds geen bevestigde verklaring voor hoe Gemini de niet-uitgebrachte informatie heeft gegenereerd. Of dit het gevolg was van een andere bron, onbedoelde blootstelling of een ongebruikelijk toeval, blijft onduidelijk.