Naarmate door AI gegenereerde technologie steeds wijdverspreider wordt, zal Google van Android-apps gaan eisen dat ze een manier bieden om aanstootgevende, door AI gegenereerde inhoud te melden en te voldoen aan nieuwe moderatieregels over wat voor soort door AI gegenereerde inhoud acceptabel is.
Apps die gebruik maken van kunstmatige intelligentie om content te genereren moeten begin volgend jaar een knop toevoegen om aanstootgevende content te markeren of te melden, om beschikbaar te blijven in de Play Store van Google.
Google wil het rapportageproces zo eenvoudig mogelijk maken, zodat gebruikers kunnen rapporteren zonder de app te verlaten, vergelijkbaar met het bestaande in-app rapportagesysteem.
Het bedrijf zei dat zijn door AI gegenereerde inhoudsbeleid betrekking heeft op AI-chatbots, apps die door AI gegenereerde afbeeldingen gebruiken en apps die AI gebruiken om spraak- of video-inhoud van echte mensen te creëren. Apps die door AI gegenereerde inhoud hosten, apps die AI alleen gebruiken om materiaal zoals boeken samen te vatten, en productiviteitsapps die AI als functie gebruiken, vallen niet onder het nieuwe beleid.
Volgens Google omvat problematische AI-inhoud onder meer deepfake-seksueel materiaal zonder wederzijds goedvinden, opnamen van echte personen die worden gebruikt voor fraude, valse of bedrieglijke verkiezingsinhoud, door AI gegenereerde toepassingen "voornamelijk met het doel seksueel verlangen te bevredigen" en het creëren van kwaadaardige code.
In zijn aankondiging erkende Google dat AI-generatie “een snelgroeiende toepassingscategorie is”, waardoor de indruk werd gewekt dat Google zijn AI-beleid zou kunnen herzien naarmate de technologie blijft evolueren.
Naast de nieuwe regels rond door AI gegenereerde inhoud heeft Google ook het foto- en videotoestemmingsbeleid in de Play Store aangescherpt, waardoor wordt beperkt hoeveel apps toegang hebben tot gegevens.
"Foto's en video's op het apparaat van een gebruiker worden beschouwd als gevoelige persoonlijke gegevens van de gebruiker en moeten worden behandeld met de strengste best practices op het gebied van privacy", aldus het bedrijf. "Deze gevoelige informatie kan gebruikers een gemakkelijk doelwit maken voor lekken of misbruik, dus het minimaliseren van dergelijke toegang helpt de last voor ontwikkelaars te vermijden die gepaard gaan met het omgaan met dergelijke gevoelige gegevens."
Alleen apps die brede toegang tot foto's en video's vereisen, blijven algemene machtigingen krijgen, terwijl apps met beperkt gebruik van mediabestanden de fotokiezer moeten gebruiken.