Vanaf volgende week lanceert Instagram een nieuwe functie: wanneer tienergebruikers in korte tijd meerdere keren proberen te zoeken naar trefwoorden die duidelijk verband houden met zelfbeschadiging of zelfmoord, zal het platform een herinnering naar hun ouders sturen en ouders aanbevelen het initiatief te nemen om zorg te dragen voor de mentale toestand van hun kinderen. Moederbedrijf Meta zei ook dat een soortgelijk mechanisme voor vroegtijdige waarschuwing later dit jaar ook van plan is uit te breiden naar zijn AI-chatbotproducten.
Deze functie wordt voor het eerst gelanceerd in de Verenigde Staten, het Verenigd Koninkrijk, Australië en Canada, en is alleen van toepassing op jongerenaccounts waarvoor de instelling 'ouderlijk toezicht' is ingeschakeld. Dat wil zeggen dat ouders alleen relevante meldingen ontvangen als zowel ouders als tieners er actief voor kiezen om de monitoringfunctie in te schakelen. Meta zei dat de functie naar verwachting later dit jaar naar meer regio’s zal worden uitgebreid.
Volgens de verklaring van Instagram in de aankondiging zoeken de meeste tienergebruikers niet actief naar inhoud die verband houdt met zelfmoord of zelfbeschadiging. Wanneer gebruikers dergelijke zoekopdrachten uitvoeren, is het bestaande beleid van het platform om relevante zoekresultaten direct te blokkeren en deze door te sturen naar bronpagina's die psychologische ondersteuning en hulphotlines bieden. Instagram benadrukte dat het doel van het nieuwe waarschuwingsmechanisme niet is om de inhoudsbeperkingen te versoepelen, maar om het blokkeringsbeleid te handhaven en tegelijkertijd ouders de kans te geven om in te grijpen en tijdig ondersteuning te bieden wanneer hun kinderen “signalen om hulp” kunnen uitzenden. Het platform verklaarde ook dat het zal proberen een evenwicht te vinden tussen “het noodzakelijk informeren van ouders” en “het vermijden van buitensporige onderbrekingen” om te frequente meldingen te voorkomen en het waarschuwingseffect ervan te verzwakken.
Wat specifieke presentatiemethoden betreft: wanneer het systeem vaststelt dat een jonge gebruiker binnen korte tijd herhaaldelijk heeft gezocht naar woorden die verband houden met zelfbeschadiging of zelfmoord, ontvangen ouders herinneringen via kanalen zoals e-mail, sms-berichten of WhatsApp, en verschijnt er ook een melding in de app. De melding herinnert ouders niet alleen aan het recente zoekgedrag van hun kinderen, maar bevat ook richtlijnen over hoe ze met tieners over gevoelige onderwerpen kunnen communiceren, waardoor ouders beter voorbereid zijn op het gesprek.