Door kunstmatige intelligentie gegenereerde beelden van kindermisbruik worden ‘uw ergste nachtmerrie’ en dreigen het internet te overweldigen, waarschuwt een veiligheidswaakhond. De Internet Watch Foundation (IWF) zei dat het bijna 3.000 door AI gegenereerde misbruikbeelden had ontdekt die duidelijk in strijd waren met de Britse wet.
De in Groot-Brittannië gevestigde organisatie zei dat bestaande, levensechte beelden van slachtoffers van misbruik in AI-modellen worden ingevoerd, die vervolgens nieuwe afbeeldingen genereren.
De groep voegde eraan toe dat de technologie ook werd gebruikt om afbeeldingen te maken van beroemdheden die ‘verouderd’ waren en vervolgens als kinderen werden afgebeeld in scènes van seksueel misbruik. Andere voorbeelden van materiaal over seksueel misbruik van kinderen (CSAM) zijn onder meer het gebruik van kunstmatige-intelligentietools om afbeeldingen van geklede kinderen die online worden gevonden, te 'naakt' te maken.
Het International Women's Forum waarschuwde deze zomer dat er bewijs begon te verschijnen van misbruik veroorzaakt door AI, maar zei dat uit de laatste rapporten bleek dat het gebruik van de technologie versnelde. IWF-topman Susie Hargreaves zei dat de "ergste nachtmerrie van de waakhond was uitgekomen".
"Eerder dit jaar waarschuwden we dat AI-beelden binnenkort niet meer te onderscheiden zouden zijn van echte foto's van kinderen die seksueel misbruikt worden, en dat we dergelijke beelden in grotere aantallen zouden kunnen gaan zien verspreiden", zei ze. “Dat stadium zijn we inmiddels voorbij. Het huiveringwekkende is dat we zien dat criminelen doelbewust hun AI trainen op beelden van echte slachtoffers die zijn misbruikt. Kinderen die in het verleden zijn verkracht, worden nu in nieuwe scenario’s opgenomen omdat iemand het ergens wil zien.”
Het International Women's Forum zei ook bewijs te hebben gezien dat door AI gegenereerde afbeeldingen online worden verkocht. De nieuwste bevindingen zijn gebaseerd op een onderzoek van een maand naar forums voor kindermisbruik op het dark web. Het onderzocht 11.108 afbeeldingen op het forum, waarvan er 2.978 de Britse wet overtraden door seksueel misbruik van kinderen weer te geven.
Door AI gegenereerde CSAM is illegaal op grond van de Child Protection Act 1978, die het nemen, verspreiden en bezitten van ‘onfatsoenlijke of pseudofoto’s’ van kinderen strafbaar stelt. Het International Women's Forum zei dat de overgrote meerderheid van het illegale materiaal dat het vond in strijd was met de Child Protection Act, waarbij meer dan een vijfde van de afbeeldingen werd geclassificeerd als categorie A, de ernstigste categorie inhoud die verkrachting en seksueel misbruik kan weergeven.
De Coroners and Justice Act 2009 stelt ook niet-fotografische verboden afbeeldingen van kinderen, zoals karikaturen of tekeningen, strafbaar. Het IWF vreest dat een golf van AI-gegenereerde CSAM’s wetshandhavingsinstanties zal afleiden van het opsporen van echt misbruik en het helpen van slachtoffers.
"Dit materiaal heeft het potentieel om het internet te overweldigen als we deze dreiging niet onder controle krijgen", aldus Hargreaves.
Dan Sexton, Chief Technology Officer van IWF, zei dat de beeldgeneratietool StableDiffusion, een openbaar beschikbaar AI-model dat kan worden aangepast om CSAM te helpen genereren, het enige AI-product was dat op het forum werd besproken.
"We zien discussie over het maken van inhoud met behulp van StableDiffusion, publiek beschikbare software."
StabilityAI, het Britse bedrijf achter StableDiffusion, zei dat het "misbruik op ons platform voor illegale of onethische doeleinden verbiedt, en ons beleid stelt duidelijk dat dit ook CSAM omvat."
De regering zegt dat een cyberveiligheidswet die binnenkort wet wordt, ook betrekking zal hebben op AI-gegenereerde CSAM en dat socialemediabedrijven moeten voorkomen dat dit op hun platforms verschijnt.