Technologieën voor kunstmatige intelligentie worden steeds gebruikelijker, zoals stabiele diffusie (een open-sourcetechnologie die afbeeldingen genereert op basis van tekstprompts) en 'face-swapping'-tools die het gezicht van een slachtoffer in een video of foto vervangen door dat van een pornoartiest. Onrealistische deepfake-foto's kunnen worden gemaakt met eenvoudige fotobewerkingstools die al jaren bestaan.

Er wordt ook aangenomen dat apps die beweren zich met één klik te kunnen uitkleden, hulpmiddelen zijn die in sommige gevallen kunnen worden gebruikt en die gratis kunnen worden gedownload in app-winkels. Deze moderne deepfake-foto's zien er misschien realistischer uit en zijn moeilijker onmiddellijk als nep te identificeren.

Francesca Mani, 15, is tweedejaarsstudent op de Westfield High School in New Jersey. "Ik was geschokt omdat ik en de andere meisjes werden verraden door onze klasgenoten, wat betekent dat het iedereen had kunnen overkomen", zei ze.

Politici en juridische experts zeggen dat er weinig verhaalsmogelijkheden zijn voor slachtoffers van AI-gegenereerde porno en deepfake-porno, waarbij vaak de gezichten van de slachtoffers tegen hun naakte lichamen worden gedrukt.

De foto's en video's kunnen griezelig realistisch zijn, en de technologie om ze te maken is steeds geavanceerder en toegankelijker geworden, aldus MaryAnne Franks, een juridisch expert op het gebied van expliciete media zonder wederzijdse toestemming.

Een maand na het incident op Westfield High School zeiden Francesca en haar moeder, Dorota Mani, dat ze nog steeds niet de identiteit en het aantal mensen kennen die de beelden hebben gemaakt, hoeveel er zijn gemaakt en of ze nog steeds bestaan. Bovendien is het onduidelijk welke sancties eventueel door het schooldistrict zijn opgelegd.

De gemeente Westfield gaf Westfield Public Schools de opdracht commentaar te geven, maar de school weigerde commentaar te geven. Onder verwijzing naar vertrouwelijkheid zei het schooldistrict eerder dat het "geen enkele informatie zal vrijgeven over de studenten die beschuldigd worden van het maken van nep-naaktfoto's, noch over de disciplinaire maatregelen waarmee zij te maken kregen."

Hoofdinspecteur Raymond Gonzalez vertelde de nieuwszender dat het district "studenten zal blijven onderwijzen en duidelijke richtlijnen zal ontwikkelen om ervoor te zorgen dat deze nieuwe technologieën op verantwoorde wijze binnen en buiten school worden gebruikt."

In een e-mail verkregen door NBC News vertelde de directeur van de middelbare school, Mary Asfendis, op 20 oktober aan de ouders dat de school de beweringen van leerlingen onderzocht dat sommige van hun klasgenoten kunstmatige intelligentie gebruikten om pornografische afbeeldingen van onbewerkte foto's te maken.

Volgens de memo waren schoolfunctionarissen destijds van mening dat alle gemaakte afbeeldingen waren verwijderd en niet waren verspreid.

“Dit is een zeer ernstig incident”, schreef Asfendis, waarin hij ouders aanspoorde om het gebruik van technologie met hun kinderen te bespreken. "Nieuwe technologieën maken het mogelijk om afbeeldingen te vervalsen, en studenten moeten zich bewust zijn van de impact en schade die deze acties op anderen kunnen hebben."

Hoewel Francesca geen beelden van zichzelf of anderen zag, zei haar moeder dat de directeur van Westfield haar had verteld dat vier mensen Francesca als slachtoffer hadden geïdentificeerd. Francesca heeft aangifte gedaan bij de politie, maar noch de politie van Westfield, noch het parket reageerde op verzoeken om commentaar.

Senator Jon Bramnick uit New Jersey zei dat de politie haar zorgen had geuit dat het incident alleen maar zou stijgen tot het niveau van een “cyberintimidatieclaim, ook al had het zeker het niveau van een ernstiger misdrijf moeten bereiken.” "Als je naaktheid op het gezicht van een kind zet, is dat voor mij kinderporno", zei hij. Het Republikeinse congreslid zei dat hoewel de schade veroorzaakt door echte of vervalste afbeeldingen hetzelfde kan zijn, de staatswetten momenteel niet ver genoeg gaan om makers van inhoud te straffen.

"Het is dezelfde manier waarop kindersekshandelaars het slachtoffer worden", zei hij. "Het is niet alleen beledigend voor jonge mensen, het is lasterlijk voor een persoon. Je weet nooit wat er met die foto gaat gebeuren, je weet nooit waar hij is verspreid en wanneer hij terugkomt om dit jonge meisje te achtervolgen."

Bramnick zei dat een wetsvoorstel in New Jersey deepfake-pornografie zou verbieden en strafrechtelijke en civielrechtelijke straffen zou opleggen voor openbaarmaking zonder wederzijds goedvinden. Hij zei dat degenen die schuldig worden bevonden volgens het wetsvoorstel drie tot vijf jaar gevangenisstraf en/of een boete van $ 15.000 riskeren.

Franks is hoogleraar rechten en voorzitter van het CyberCivilRights Initiative, een non-profitorganisatie die pornografie zonder wederzijds goedvinden bestrijdt.

De staatswetten die zich richten op deepfakes variëren sterk in reikwijdte. Sommige van deze wetten, zoals die in Texas en Wyoming, criminaliseren pornografische deepfakes zonder wederzijds goedvinden. Andere staten, zoals New York, hebben wetten die slachtoffers alleen toestaan ​​civiele rechtszaken aan te spannen.

Franks zei dat de wetten ‘verschillend’ zijn en niet alomvattend genoeg, en dat hun grondwettigheid in twijfel wordt getrokken. "Je krijgt dus allerlei soorten strafrechtelijke aanklachten, en die zullen in deze gevallen moeilijk zijn omdat de daders minderjarig zijn, dus dat schept op zichzelf al problemen", zei ze.

Misschien slechts het topje van de ijsberg

Het is onduidelijk hoeveel jongeren het slachtoffer zijn geworden van door AI gegenereerde naaktfoto's. De FBI zegt dat het moeilijk is om het aantal minderjarigen te tellen dat seksueel wordt uitgebuit. Maar het agentschap zei dat het aantal open zaken met betrekking tot misdaden tegen kinderen is toegenomen. De FBI vertelde NBC News dat er in 2022 meer dan 4.800 gevallen waren, vergeleken met meer dan 4.100 het jaar daarvoor.

“De FBI neemt misdaden tegen kinderen serieus en werkt samen met onze staats-, lokale en tribale wetshandhavingspartners om de feiten van elke beschuldiging te onderzoeken”, aldus de FBI, eraan toevoegend dat slachtoffers met aanzienlijke uitdagingen te maken kunnen krijgen als ze proberen de verspreiding van afbeeldingen te voorkomen of deze van internet te laten verwijderen.

Franks zei dat er waarschijnlijk meer incidenten zullen plaatsvinden, en dat deze alleen maar zullen toenemen. ‘De incidenten waarover we horen en die aan het licht zijn gekomen, zijn waarschijnlijk slechts het topje van de ijsberg’, zei ze. "Het is mogelijk dat dit nu veel gebeurt en dat de meisjes het nog niet hebben ontdekt, of dat hebben ze wel gedaan, of de school verdoezelt het." "

Op de Issaquah High School in de staat Washington zei een districtsvertegenwoordiger dat een incident medio oktober “waarbij door kunstmatige intelligentie gegenereerde valse beelden van studenten betrokken waren” nog steeds gevolgen heeft voor de studentenpopulatie.

In de Spaanse stad Almendralejo zeggen moeders dat tientallen van hun dochters in de middelbare school werden blootgesteld aan door AI gegenereerde naaktfoto's van een app die hen 'uitkleedde' met hun kleren aan. De lokale politie in New Jersey, de staat Washington en Spanje onderzoekt de gevallen op de middelbare school.

De FBI waarschuwde in juni in een openbare aankondiging dat de technologie die wordt gebruikt om pornografische deepfake-foto's en -video's zonder wederzijds goedvinden te maken voortdurend verbetert en wordt gebruikt voor intimidatie en sexting voor chantage.

Ondertussen riep de Nationale Vereniging van Procureurs-Generaal in september het Congres op om de impact van kunstmatige intelligentie op kinderen te bestuderen en wetgeving uit te vaardigen om kinderen tegen kunstmatige intelligentie te beschermen.

In een brief, ondertekend door 54 procureurs-generaal van de staat en het territorium, uitte de groep zijn bezorgdheid over het feit dat "kunstmatige intelligentie een nieuwe grens opent voor misbruik en vervolgingen moeilijker maakt." “We zijn verwikkeld in een race tegen de klok om de kinderen van ons land te beschermen tegen de gevaren van kunstmatige intelligentie”, aldus de brief.

Francesca en haar moeder zeiden dat ze van plan zijn in december naar Washington D.C. te reizen om leden van het Congres persoonlijk aan te sporen actie te ondernemen, terwijl ze blijven pleiten voor vernieuwd beleid binnen het schoolsysteem en verantwoordelijkheid zoeken voor wat er is gebeurd.

“We weten allemaal dat dit geen geïsoleerd incident is. Dit zal nooit een geïsoleerd incident zijn. Dit gebeurt de hele tijd. We moeten stoppen met te doen alsof het er niet toe doet”, zei Dorota-Mani.

De stijging van het aantal incidenten gericht op middelbare scholieren wordt veroorzaakt door een toename van deepfake-apps op het gebied van kunstmatige intelligentie en deepfake-pornosites die dergelijk materiaal creëren, delen en verkopen.

Uit een rapport uit 2019 van Sensity, een in Amsterdam gevestigd bedrijf dat door kunstmatige intelligentie gegenereerde media volgt, bleek dat 96% van het destijds gecreëerde deepfake nepnieuws seksueel expliciet was en vrouwen omvatte die niet instemden met de creatie ervan. Veel slachtoffers weten niet dat er deepfake-nieuws bestaat. Er is niets dat ouders en kinderen kunnen doen om te voorkomen dat hun gelijkenissen worden gebruikt om deepfake-nieuws te creëren. In plaats daarvan moeten scholen en lokale wetshandhavingsinstanties een voorbeeld stellen voor daders in zaken waarbij het grote publiek betrokken is, om anderen ervan te weerhouden deepfakes te creëren.

"Als je je kunt voorstellen dat New Jersey-scholen of New Jersey-autoriteiten op een dramatische en betekenisvolle manier reageren om een ​​voorbeeld te stellen, de straffen echt te verscherpen en mensen in de gevangenis te zetten, zou je er misschien van af kunnen komen", zei Franks. "Als je dat niet doet, wordt het gewoon een extra instrument dat mannen en jongens gebruiken om vrouwen en meisjes uit te buiten en te vernederen, en de wet heeft er feitelijk niets over te zeggen."