Google heeft onlangs een nieuwe functie in Gemini gelanceerd die nauw verbonden is met Google Foto's, waardoor deze AI-assistent informatie rechtstreeks uit de fotobibliotheek van de gebruiker kan extraheren om meer gepersonaliseerde beeldinhoud te genereren.Het doel van Google is dat systemen "echte afbeeldingen van u en uw dierbaren gebruiken" bij het maken van AI-afbeeldingen, in plaats van uitsluitend te vertrouwen op gebruikers die in prompts lange beschrijvingen geven van uiterlijk, familieleden en persoonlijke stijl.
De verandering maakt deel uit van Google's grotere 'Personal Intelligence'-strategie, die tot doel heeft Gemini te verbinden met apps zoals Foto's, Gmail, Zoeken, Maps en YouTube om meer persoonlijke context in antwoorden op te nemen en deze relevanter te laten lijken voor gebruikers. Wat het genereren van afbeeldingen betreft, zal Gemini foto-informatie gebruiken die is verkregen door verbinding te maken met Google Photos om automatisch details in te vullen, in een poging de moeite van het schrijven van lange promptwoorden in 'miniromans' in traditionele promptprojecten te verminderen.
Het onderliggende beeldmodel dat deze functie aanstuurt is Nano Banana 2, het onlangs geüpgradede beeldgeneratiemodel van Google. Officieel is het gepositioneerd als een manier om sneller AI-scènes te genereren die “er echt relevant voor je uitzien.” Kortom, als de gebruiker ermee instemt deze functie in te schakelen, zal Gemini automatisch verwijzen naar relevante foto's in het album van de gebruiker bij het genereren van afbeeldingen om het uiterlijk, de scènestijl en andere elementen van het personage aan te passen om het resultaat in het echte leven dichter bij u en uw gezin te brengen.
Zodra de functie echter aan het licht kwam, leidde dit tot een nieuwe ronde van privacyalarmen en publieke controverses. Veel critici maken zich zorgen dat familiefoto's, persoonlijke herinneringen en zelfs verschillende gevoelige foto's verder betrokken zullen worden bij de 'AI-contentfabriek' en zullen worden omgezet in een deel van machinaal gegenereerde inhoud, wat de angst versterkt dat 'persoonlijke gegevens opnieuw worden verwerkt tot AI-productiemateriaal'. In de context van de Recall-functie van Microsoft, die veel kritiek heeft gekregen vanwege privacykwesties, is dit soort AI-innovatie die "diep ingaat op de privédomeingegevens van eindgebruikers" bijzonder gevoelig.
Afgaande op de door Google vrijgegeven informatie is dit geen dienst die standaard is ingeschakeld, maar gebruik maakt van een vrijwillig ‘opt-in’-mechanisme. Google zei dat "persoonlijke intelligentie" een optionele functie is en dat gebruikers kunnen beslissen welke applicaties ze met Gemini willen verbinden. De eerste reeks objecten die toegang krijgen tot de functie voor het genereren van afbeeldingen in Foto's zijn in aanmerking komende Google AI-abonnees in de Verenigde Staten. Met andere woorden: Google scant en analyseert momenteel niet rechtstreeks alle Google Foto's-albums zonder medeweten van de gebruiker.
Wat betreft datagebruik benadrukt Google dat de Gemini-applicatie de privé-Google Foto's-bibliotheek van de gebruiker niet rechtstreeks zal gebruiken voor modeltraining. Tegelijkertijd kan de gebruiker na het genereren van de afbeelding op de knop "Bronnen" klikken om te zien welke foto door het systeem is geselecteerd als referentie om het generatieproces van de huidige resultaten te begeleiden. Deze instructies proberen een aantal zorgen van buitenstaanders weg te nemen en gebruikers een zekere mate van zichtbaarheid en traceerbaarheid te bieden.
Deze garanties hebben de twijfels echter niet volledig weggenomen. Voorstanders van privacy wijzen erop dat de geloofwaardigheid van zogenaamde ‘optionele’ systemen grotendeels afhangt van hoe duidelijk en eerlijk bedrijven zijn in het beschrijven van hun kenmerken, en de staat van dienst van Big Tech op dit vlak is niet geruststellend. Zelfs als ze niet rechtstreeks worden gebruikt voor training, kan het feit dat de privéafbeeldingen van gebruikers worden gebruikt voor realtime gevolgtrekkingen en het genereren van inhoud voor veel mensen nog steeds verontrustend zijn.
Over het algemeen is de huidige situatie niet zo dat Google het in het geheim "met één klik aanzet" en standaard de fotobibliotheken van alle gebruikers scant. Maar "AI vrijelijk laten rondlopen in uw privéfotoalbum en geheugenfragmenten extraheren om nieuwe inhoud te genereren" op zichzelf is een concept dat gewone gebruikers gemakkelijk een defensief gevoel kan geven. In een tijd waarin de grenzen tussen AI-diensten en persoonlijke privacy voortdurend worden verlegd, zullen dergelijke productpogingen rond ‘persoonlijke intelligentie’ waarschijnlijk nog geruime tijd het middelpunt blijven van technologische innovatie en privacygeschillen.