Het Meta Oversight Committee heeft onlangs een besluit uitgebracht waarin bedrijven worden opgeroepen om de regelgeving zo snel mogelijk aan te scherpen en te verduidelijken om de snelle verspreiding van door AI gegenereerde inhoud en deep-fake-video’s aan te pakken in risicovolle situaties zoals oorlogen, rampen en verkiezingen. Het bureau wees erop dat Meta momenteel duidelijke tekortkomingen heeft bij het labelen en identificeren van grootschalige, door AI gegenereerde inhoud, vooral in tijden van conflict en crisis, en dat deze tekortkoming het publiek kan misleiden.
De kritiek komt voort uit een nepvideo die vorig jaar op het Meta-platform verscheen. De door AI gegenereerde video beweert beelden te tonen van schade aan gebouwen in de Israëlische stad Haifa en werd geplaatst door een gebruiker in de Filipijnen die zich voordeed als nieuwsbron. Veel gebruikers meldden de video, maar het platform voerde geen interne beoordeling uit en zette geen factcheckmechanisme van derden in werking. De video stond al een tijdje online, maar was niet gemarkeerd als ‘risicovolle AI-inhoud’. Het trok pas de aandacht toen de toezichtcommissie tussenbeide kwam.
De rol van het Oversight Committee is het verbeteren van Meta's behandeling van gebruikers en de gemeenschap wereldwijd. De commissie is van mening dat deze zaak systemische problemen heeft blootgelegd met Meta’s AI-contentbeheersysteem op platforms als Facebook, Instagram en Threads, dat te veel afhankelijk is van de vrijwillige openbaarmaking van gebruikers of interne ‘upgrade’-processen en niet kan tippen aan de huidige realiteit van AI-content die zich op een alarmerende snelheid en schaal verspreidt, vooral tijdens oorlogen, rampen en zeer politiek gevoelige gebeurtenissen.
Momenteel hangt Meta’s etikettering van door AI gegenereerde inhoud grotendeels af van de vraag of de maker zelf het gebruik van AI verklaart, of dat de inhoud intern wordt geëscaleerd naar een speciaal beoordelingsproces. Het Oversight Committee wees erop dat deze aanpak verre van voldoende is om de proliferatie van deep fakes en synthetische media op internet aan te pakken, en dat het moeilijk is om gebruikers er snel aan te herinneren hoe de inhoud wordt gegenereerd en mogelijk misleidend is.
In zijn laatste aanbevelingen heeft de Oversight Board Meta gevraagd een aparte set gemeenschapsstandaarden te ontwikkelen voor door AI gegenereerde inhoud in plaats van te blijven vertrouwen op een gefragmenteerde lappendeken van beleidsreacties op desinformatie. De commissie pleit ervoor dat de regels voor door AI gegenereerde afbeeldingen, video’s en audio worden verenigd in een duidelijk raamwerk, zodat platforms consistenter en transparanter kunnen ingrijpen in scenario’s met een hoog risico.
De commissie adviseerde Meta ook vaker het label ‘risicovolle AI’ te gebruiken om inhoud die van invloed zou kunnen zijn op de openbare veiligheid, de publieke opinie en verkiezingen prominent te labelen. Tegelijkertijd moeten bedrijven de mogelijkheden van geautomatiseerde detectiesystemen verder verbeteren om meerdere mediavormen, zoals afbeeldingen, video's en audio, te kunnen bestrijken, en aan gebruikers duidelijk uitleggen welke specifieke straffen degenen die de digitale synthese niet openbaar maken of met geknoeide inhoud zullen worden geconfronteerd.
In termen van technische grondslagen noemde de Oversight Committee het brancheraamwerk voor Content Credentials en was van mening dat Meta dit mechanisme actiever en uniformer zou moeten overnemen. Dit raamwerk heeft tot doel de traceerbaarheid en transparantie van inhoud te verbeteren door metadata aan inhoud te koppelen om de bron van het materiaal aan te geven en of AI-tools worden gebruikt. De commissie is bezorgd dat Meta momenteel inconsistent is in de handhaving van dergelijke normen, inclusief in de etikettering van inhoud die wordt gegenereerd door haar eigen AI-tools.
De Oversight Board heeft eerder Meta's regels voor "manipulatie van de media" bekritiseerd als zijnde te verwarrend en te beperkt van omvang, waarbij de nadruk te veel lag op "of AI wordt gebruikt" in plaats van "of de inhoud bedrieglijk is". Onder druk heeft Meta het relevante etiketteringssysteem aangepast en het originele label "Made with AI (made by AI)" vervangen door het bredere label "AI info (AI-informatie)". Deze verandering heeft echter ook twijfels van de buitenwereld opgeroepen. Er wordt aangenomen dat de nieuwe labelprompt te algemeen en niet opvallend genoeg is, en dat gebruikers de belangrijkste informatie gemakkelijk kunnen negeren.
Aan de vooravond van de inauguratie van de huidige Amerikaanse president Donald Trump kondigde Meta-CEO Mark Zuckerberg aan dat het bestaande factcheckpartnerschap van het bedrijf “te politiek bevooroordeeld” was geworden en het vertrouwen van gebruikers in het platform ondermijnde, en vervangen zou worden door een Community Notes-mechanisme. Deze aanpassing betekent dat het platform verder zal vertrouwen op spontane etikettering en foutcorrectie door de gebruikersgemeenschap bij het identificeren en corrigeren van verkeerde informatie. In de context van de snelle verspreiding van deepfake- en AI-inhoud heeft deze strategie ook aanleiding gegeven tot een voortdurend debat over de effectiviteit ervan.