Meta zei vandaag in een blogpost dat het zijn kinderveiligheidsfuncties die zijn ontworpen om kinderen te beschermen, uitbreidt en bijwerkt, de nieuwste ontwikkeling te midden van toenemende berichten over hoe zijn platform seksuele inhoud voor kinderen aanbeveelt.
Maandenlang heeft The Wall Street Journal gedetailleerd beschreven hoe Instagram en Facebook gebruikers ongepaste en seksuele inhoud met betrekking tot kinderen voorschotelden. In juni werd in een rapport gedetailleerd beschreven hoe Instagram een netwerk van accounts met elkaar verbond die materiaal met seksueel misbruik van kinderen (CSAM) verhandelden en deze accounts naar elkaar doorverwezen via het aanbevelingsalgoritme. Uit een vervolgonderzoek dat vandaag werd gepubliceerd, bleek hoe het probleem zich uitstrekte tot Facebook-groepen, waar een ecosysteem van pedofiele accounts en groepen bestond, waarvan sommige wel 800.000 leden hadden.
In beide gevallen zorgde het aanbevelingssysteem van Meta ervoor dat misbruikende accounts elkaar konden vinden via functies zoals Facebook's "You May Be Interest Groups" of automatisch aanvullen van tags op Instagram. Meta zei vandaag dat het de manier waarop ‘verdachte’ volwassen accounts met elkaar kunnen communiceren, zal beperken: op Instagram zullen deze accounts elkaar niet kunnen volgen, ze zullen niet worden aanbevolen en hun opmerkingen zullen niet zichtbaar zijn voor andere ‘verdachte’ accounts.
Meta zei ook dat het zijn lijst met termen, zinnen en emoji's met betrekking tot de veiligheid van kinderen heeft uitgebreid en machine learning is gaan gebruiken om verbanden tussen verschillende zoektermen te detecteren.
Terwijl Amerikaanse en Europese toezichthouders druk uitoefenen op Meta om de veiligheid van kinderen op het platform te garanderen, heeft Meta ook het bovenstaande rapport vrijgegeven en overeenkomstige aanpassingen aan de kinderveiligheid doorgevoerd. Meta-CEO Mark Zuckerberg zal samen met een aantal andere grote tech-managers in januari 2024 voor de Senaat getuigen over online uitbuiting van kinderen. In november gaven EU-regelgevers Meta een deadline (die vandaag afloopt) om informatie te verstrekken over hoe zij minderjarigen beschermen; Vandaag hebben ze nieuwe verzoeken ingediend bij Meta, waarbij ze specifiek aandacht hebben voor “zelf gegenereerd materiaal van seksueel misbruik van kinderen (SG-CSAM) dat op Instagram circuleert” en het aanbevelingssysteem van het platform.
Eind november hebben datingappbedrijven Bumble and Match de advertenties op Instagram opgeschort naar aanleiding van een Wall Street Journal-rapport. Advertenties van beide bedrijven verschenen naast Reels-video's met expliciete inhoud en seksueel geweld tegen kinderen.