Amerikaanse wetgevers stellen voor om mensen te laten aanklagen wegens nep-pornografische afbeeldingen van zichzelf nadat expliciete, door AI gegenereerde foto’s van Taylor Swift viraal gingen. De Destroying Explicit Falsification of Images and Nonconsensual Editing (DEFIANCE) Act zou een civiel recht van actie creëren voor ‘digitale vervalsing’ die de privé-delen van een identificeerbaar individu afbeeldt zonder hun toestemming, waardoor slachtoffers financiële compensatie kunnen eisen van iedereen die ‘willens en wetens een afbeelding produceert of bezit’ met de bedoeling deze te verspreiden.

Het wetsvoorstel werd mede gesponsord door Dick Durbin (senator uit Illinois), Lindsey Graham (senator uit South Carolina), Amy Klobuchar (senator uit Minnesota) en Josh Hawley (senator uit Missouri). Het wetsvoorstel bouwt voort op een bepaling in de Violence Against Women Act Reauthorization Act van 2022, die een soortgelijk actierecht toevoegt voor niet-verzonnen expliciete afbeeldingen. In een korte omschrijving beschrijven de sponsors het als een reactie op de ‘exponentiële’ toename van digitaal bewerkte expliciete AI-beelden, en wijzen ze op de zaak van Swift als een voorbeeld van hoe nepbeelden ‘worden gebruikt om vrouwen uit te buiten en lastig te vallen – met name publieke figuren, politici en beroemdheden.’

Pornografische AI-gemanipuleerde beelden, vaak deepfakes genoemd, zijn in populariteit en verfijning gegroeid sinds de term in 2017 werd bedacht. Kant-en-klare generatieve AI-tools maken de productie ervan eenvoudiger, zelfs op systemen met vangrails tegen expliciete beelden of nabootsing van identiteit, die zijn gebruikt voor intimidatie en afpersing.

Maar tot nu toe zijn er in veel delen van het land geen duidelijke rechtsmiddelen. Bijna alle staten hebben wetten aangenomen die niet-consensuele, niet-gesimuleerde pornografie verbieden, hoewel het proces traag verloopt. Er zijn veel minder wetten met betrekking tot het genereren van analoge beelden. Maar het maakt deel uit van de AI-regelgevingsagenda van president Joe Biden, en perssecretaris van het Witte Huis, Karine Jean-Pierre, roept het Congres op om nieuwe wetten aan te nemen als reactie op het Taylor Swift-incident van vorige week.

Het wetsvoorstel "DEFIANCE" wordt specifiek voorgesteld voor beelden gegenereerd door kunstmatige intelligentie, maar beperkt zich niet tot deze beelden. Het wetsvoorstel beschouwt elk intiem seksueel beeld (een term gedefinieerd in de basisregels) als een verzinsel dat voor een redelijk persoon niet te onderscheiden is van een authentieke visuele weergave van een individu door middel van "software, machinaal leren, kunstmatige intelligentie of enige andere door de computer gegenereerde of technologische middelen ...". Dit omvat authentieke beelden die zijn aangepast om seksueel suggestief te zijn. De formulering lijkt ook van toepassing te zijn op oudere tools zoals Photoshop, zolang de resultaten maar realistisch genoeg zijn. Het toevoegen van een label waarop staat dat een afbeelding niet waar is, ontslaat u niet van aansprakelijkheid.

Wetgevers hebben een aantal wetsvoorstellen ingediend die zich richten op kunstmatige intelligentie en pornografie zonder wederzijdse toestemming, maar de meeste moeten nog worden aangenomen. Eerder deze maand introduceerden wetgevers de NoAIFRAUDAct Act, een extreem breed verbod op het gebruik van technologie om zich zonder toestemming voor anderen uit te geven. Een one-size-fits-all parodieregel zou echter enorme problemen voor de artistieke expressie met zich meebrengen; het zou de mogelijkheid kunnen openen van rechtszaken door machtige figuren over politieke parodie, re-enactment of creatieve fictieve behandeling.

DEFIANCE kan een aantal van dezelfde problemen aan de orde stellen, maar is veel restrictiever – hoewel het nog steeds een zware strijd zal zijn om er doorheen te komen.