Google Gemini leest zonder toestemming van gebruikers mee met Drive-documenten. Dit beweert Kevin Bankston, senior adviseur voor AI-governance bij CDT (Center for Democracy & Technology).
Dit artikel werd aangevuld met een reactie van Google op 16 juli.
Bankston beweert op X dat Gemini toegang kreeg tot een Google Docs zodra hij het document opende. Hij was hier over gepikeerd doordat de AI-functie van Google nooit expliciet toestemming verkreeg om deze documenten in te kijken.
Mogelijke fout van interne servers
Uit verdere inspectie bleek vervolgens dat Bankston zijn account zo was ingesteld dat de AI-assistent geen samenvattingen kon maken van Gmail, Drive en Docs. Het werd wel vastgesteld dat het probleem zich manifesteert bij het grotere aanbod van Google Drive en niet uitsluitend bij Docs. Het ziet er daarom volgens hem naar uit dat de interne systemen van Google de inhoud voor intern gebruik niet goed afdicht.
Google heeft de zaak niet op serverniveau onderzocht. Over de oorzaak en de omvang van het probleem, kan daarom enkel gespeculeerd worden. Bankston vermeldt zo dat hij niet met zekerheid kan zeggen of deze fout bij alle gebruikers optreedt. Hij vermeldt dat het ook om een probleem kan gaan dat specifiek optreedt bij Google Workspace Labs-gebruikers. Deze groep van gebruikers krijgt eerder toegang tot nieuwe functies om zaken te testen en problemen te ontdekken. Het is mogelijk dat binnen deze testgroep standaardinstellingen voor Gemini AI door Google worden overschreven.
Antwoord Google
Een woordvoerder van Google reageerde op de geruchten tegenover onze redactie. “Onze generatieve AI-functies zijn ontworpen om gebruikers keuze te bieden en hen de controle over hun gegevens te houden. Voor het gebruik van Gemini in Google Workspace moet een gebruiker dit proactief inschakelen. Wanneer hij of zij dit doet, wordt de inhoud op een privacybeschermende manier gebruikt om nuttige reacties op hun prompts te genereren, maar wordt de inhoud verder niet zonder toestemming opgeslagen.”
Het bedrijf benadrukt in het antwoord dat gebruikersdata uit Workspace nooit wordt ingezet voor het trainen van AI-modellen. Er wordt beweerd dat dit één van de inaccurate zaken is die in de post van Bankston worden aangehaald. Daarnaast wordt er aangehaald dat het uit de post lijkt op te maken dat de klager in het verleden de functie al eens gebruikt leek te hebben en dat het altijd mogelijk is daar weer mee te stoppen, door het zijpaneel te sluiten.
Lees ook: Google krijgt boete van 250 miljoen euro voor trainen Gemini