De Ierse regelgevende raad voor nieuwe media, Coimisiúnna Meán (Code of Online Safety), heeft publieke feedback gevraagd over de Code of Online Safety, Ierlands eerste platform voor het delen van video's. De conceptcode bevat een suggestie dat platforms moeten overwegen een functie toe te voegen om aanbevelingsalgoritmen op basis van gebruikersprofielen standaard uit te schakelen.
Er worden beveiligingsmaatregelen verwacht die erop gericht zijn aanbieders van videodeelplatformdiensten (VPSP's) juridisch verantwoordelijk te houden voor de veiligheid van mensen online, zoals het adopteren van sterkere technologie voor leeftijdsverificatie en het voorkomen van het uploaden of delen van inhoud die gewelddadig is of aanzet tot haat. De suggesties van Coimisiúnna Meán (CnaM) voor aanbevelingsalgoritmen zijn misschien minder veelbelovend. Gezien het feit dat technologiegiganten als Google, Microsoft, Apple, TikTok en Meta Ierland tot hoofdkwartier van hun EU-activiteiten hebben gemaakt, kunnen de voorgestelde veranderingen ernstige gevolgen hebben.
Aanbevelingsbronnen of aanbevelingsalgoritmen gebruiken de voorkeuren van de gebruiker, eerdere zoekopdrachten of acties en andere relevante gegevens om video-inhoud aan te bevelen die mogelijk interessant is voor de gebruiker. We hebben allemaal deze ervaring gehad: je klikte op een kattenvideo omdat je vriend zei dat deze schattig of grappig was, en voordat je het wist, raadde YouTube honderden soortgelijke video's aan die je niet wilde bekijken.
Maar het doel van CnaM zijn geen kattenvideo's. Het aanbevelingssysteem zal ook schadelijke inhoud op verschillende platforms versterken. Dat is de reden dat de Commissie een ‘safety by design’-benadering heeft aangenomen, waarbij VPSP’s worden verplicht ‘redelijke, evenredige en effectieve maatregelen te nemen, waar mogelijk, om het risico op schade (vooral voor kinderen) te verminderen die wordt veroorzaakt door de manier waarop aanbevelingssystemen aggregeren en inhoud aan gebruikers leveren.’ Het komt erop neer dat aanbieders (de bewoordingen die in de Code worden gebruikt) ervoor moeten zorgen dat aanbevelingsalgoritmen gebruikers niet blootstellen aan schadelijke inhoud.
Maar daar houden de verplichtingen van de VPSP niet op. Als de ontwerpcodes worden aangenomen "zoals ze zijn", zouden ze jaarlijks aan de commissie moeten rapporteren over de acties die zijn ondernomen op basis van aanbevolen algoritmen, "of met andere tussenpozen als de commissie bepaalt"; dus in wezen rapporteren op verzoek. Bovendien moeten leveranciers "een aanbevolen systeembeveiligingsplan ontwikkelen, publiceren en implementeren dat effectieve maatregelen omvat om het risico op schade die kan worden veroorzaakt door hun aanbevolen systemen te verminderen." Bij het ontwikkelen van het bovenstaande beveiligingsplan moeten VPSP's "op zijn minst" overwegen of ze een functie willen opnemen waarmee gebruikers profileringsalgoritmen kunnen resetten "zodat ze op dezelfde manier functioneren als nieuwe gebruikers", of dat ze een functie moeten opnemen die ervoor zorgt dat op profilering gebaseerde aanbevelingsalgoritmen standaard zijn uitgeschakeld.
CnaM is van plan afzonderlijk overleg te voeren over deze kwesties, die door belanghebbenden bij de ontwikkeling van de Cyber Security Code als zorgen zijn geuit. Ze zijn niet van plan om algoritme-veranderende maatregelen in de eerste Code op te nemen.
Terug naar de kattenvideo's. In 2022 analyseerden Mozilla-onderzoekers zeven maanden YouTube-activiteit van meer dan 20.000 deelnemers en ontdekten dat één enkele afgewezen video gemiddeld 115 slechte aanbevelingen opleverde die sterk leken op video's waarvan gebruikers het platform vertelden dat ze ze niet wilden zien.
Wilt u dat het algoritme u geen aanbevelingen geeft die "goed voor u zijn"? De deadline voor publieke feedback over alle aspecten van de Cyber Security Code, inclusief de algoritme-aanbevelingen van CnaM, is 19 januari 2024.
De conceptcode en het consultatiedocument zijn hier beschikbaar (PDF):
https://www.cnam.ie/wp-content/uploads/2023/12/Draft_Online_Safety_Code_Consultation_Document_Final.pdf