Meta zal de komende maanden beginnen met het annoteren van door AI gegenereerde foto's die zijn geüpload naar Facebook, Instagram en Threads, terwijl verkiezingen over de hele wereld plaatsvinden. Het bedrijf zal ook beginnen met het bestraffen van gebruikers die niet onthullen of echte video's of audio zijn geproduceerd door kunstmatige intelligentie.

Nick Clegg, Meta's president van mondiale zaken, zei in een interview dat deze maatregelen bedoeld zijn om de technologie-industrie te "stimuleren", aangezien door kunstmatige intelligentie gegenereerde media steeds moeilijker te onderscheiden zijn tussen waar en onwaar. Het Witte Huis dringt er hard op aan dat bedrijven door AI gegenereerde inhoud van een watermerk voorzien. Ondertussen, zegt Clegg, ontwikkelt Meta tools om synthetische media te detecteren, zelfs als de metadata ervan is gemanipuleerd om de rol van kunstmatige intelligentie bij de creatie ervan te verdoezelen.

Meta plaatst het watermerk ‘Imagined with AI’ al op afbeeldingen die zijn gegenereerd met zijn eigen ImagineAI-generator, en het bedrijf zal hetzelfde watermerk gaan toepassen op AI-foto’s die zijn gegenereerd met tools van Google, OpenAI, Microsoft, Adobe, Midjourney en Shutterstock. Clegg zei dat de industrie ver achterloopt op andere industrieën bij het vaststellen van normen voor het identificeren van door AI gegenereerde video en audio. Hoewel Meta zeer waakzaam blijft over de manier waarop dit soort media kan worden gebruikt om te misleiden, kan het bedrijf niet alles zelf onderscheppen.

Hij zei: “We zullen zeer waakzaam blijven voor degenen die bezorgd zijn dat video- en audio-inhoud is ontworpen om het publiek te misleiden over belangrijke politieke kwesties in de aanloop naar de verkiezingen. Denk ik dat het mogelijk is dat we, hoe snel ook ontdekt of gelabeld, nog steeds op onverklaarbare wijze ervan worden beschuldigd dat we van de keten af ​​zijn? Ja, ik denk dat het mogelijk is, zo niet zeer waarschijnlijk.”

Meta heeft samengewerkt met organisaties als het Partnership for Artificial Intelligence om voort te bouwen op bestaande programma's voor inhoudauthenticiteit. Adobe heeft onlangs een systeem voor inhoudsreferenties uitgebracht dat informatie over de herkomst van inhoud opneemt in metagegevens van afbeeldingen. Na het uitbrengen van een bètaversie van SynthID-watermerken voor afbeeldingen, heeft Google deze uitgebreid naar audiobestanden.

Clegg zei dat Meta binnenkort gebruikers zal gaan vragen berichten openbaar te maken met fotorealistische video of audio geproduceerd met behulp van kunstmatige intelligentie. Als gebruikers dit niet openbaar maken, zegt hij, "zullen ze worden onderworpen aan straffen variërend van waarschuwingen tot het verwijderen van aanstootgevende berichten."

Er zijn al veel voorbeelden van door AI gegenereerde virale berichten van politici, maar Clegg onderschatte de kans dat het fenomeen het platform van Meta in een verkiezingsjaar zou overnemen. "Ik denk niet dat we binnenkort een volledig synthetische, politiek significante video of audio zullen zien", zei hij. "Ik denk gewoon niet dat het zo zal zijn."

Meta is ook begonnen met het intern testen van het gebruik van grote taalmodellen (LLM's) die zijn getraind volgens gemeenschapsnormen, zei hij, en beschreef het als een efficiënt "triagemechanisme" voor tienduizenden menselijke recensenten. "Dit lijkt een zeer effectieve en redelijk nauwkeurige manier om ervoor te zorgen dat de inhoud die aan onze menselijke reviewers wordt gerapporteerd inderdaad het soort randgeval is dat menselijk oordeel vereist", zei hij.