Microsoft-CEO Satya Nadella heeft gereageerd op de controverse over kunstmatig gegenereerde neppornografische afbeeldingen van Taylor Swift. In een interview op NBC Nightly News dat aanstaande dinsdag wordt uitgezonden, noemde Nadella de proliferatie van niet-consensuele, door AI gegenereerde naaktfoto's "schokkend, heel eng" en zei tegen interviewer Lester Holt: "Ik denk dat we hier snel actie op moeten ondernemen."
In een transcript dat NBC voorafgaand aan de show van 30 januari heeft vrijgegeven, vroeg Holt Nadella om te reageren op de "neppornografische beelden van Taylor Swift die het internet hebben overspoeld". Nadella's antwoorden slaagden erin verschillende mysteries van het technologiebeleid te ontrafelen, maar er is weinig over bekend – niet verwonderlijk als er geen waterdichte oplossing bestaat.
Ik wil twee punten naar voren brengen: Ten eerste ga ik terug naar wat volgens mij onze verantwoordelijkheid is, namelijk dat we alle vangrails rond de technologie moeten plaatsen om veiligere inhoud te produceren. Er is veel te doen en er wordt veel gedaan. Maar het gaat over mondiale, sociale -- je weet wel, zou ik zeggen, convergentie op bepaalde normen. Wat we kunnen doen -- vooral als wetshandhavings- en technologieplatforms samen kunnen komen -- denk ik dat we veel meer kunnen beheren dan we denken en dat we onszelf veel meer krediet geven dan we denken.
En Microsoft zelf heeft mogelijk iets te maken met de nep-Swift-afbeeldingen. Uit een rapport van 404Media bleek dat de afbeeldingen afkomstig waren van een op Telegram gebaseerde community voor de productie van pornografische inhoud, die het gebruik van de Microsoft Designer-afbeeldingsgenerator aanbeveelde. In theorie weigert Designer afbeeldingen van beroemdheden te genereren, maar AI-generatoren kunnen gemakkelijk worden misleid, en 404 ontdekte dat het zijn beperkingen kon doorbreken met slechts een paar aanpassingen aan de aanwijzingen. Hoewel dit niet bewijst dat de afbeeldingen van Taylor Swift met Designer zijn gemaakt, is het een technische fout die Microsoft kan verhelpen.
Hulpmiddelen voor kunstmatige intelligentie hebben het proces van het maken van nep-naaktfoto's van echte mensen echter enorm vereenvoudigd, wat grote problemen heeft veroorzaakt voor vrouwen die veel minder machtig en beroemd zijn dan Taylor Swift. En het controleren van de productie ervan is niet zo eenvoudig als het vragen van grote bedrijven om de verdediging op te voeren. Zelfs als 'big tech'-platforms zoals Microsoft zijn afgesloten, kunnen mensen open tools zoals StableDiffusion omscholen om NSFW-images te genereren, hoewel er pogingen zijn om dit moeilijker te maken. Er zijn misschien veel minder gebruikers die toegang hebben tot deze generatoren, maar het Swift-incident laat zien hoe breed het werk van een kleine gemeenschap zich kan verspreiden.
Nadella hintte vaag op grotere sociale en politieke veranderingen, maar ondanks enkele vroege stappen om kunstmatige intelligentie te reguleren, heeft Microsoft geen duidelijke oplossingen. Wetgevers en wetshandhavers in het algemeen hebben moeite met de manier waarop ze moeten omgaan met seksgerelateerde beelden zonder wederzijdse toestemming, en vervalsing van kunstmatige intelligentie voegt een extra laag van complexiteit toe. Sommige wetgevers proberen de publiciteitswetten aan te passen om dit probleem aan te pakken, maar de voorgestelde oplossingen brengen vaak ernstige risico's voor de meningsuiting met zich mee. Het Witte Huis heeft opgeroepen tot “wetgevende actie” over deze kwestie, maar zelfs het heeft niet veel details gegeven over wat dat zou betekenen.
Er zijn nog andere noodmaatregelen – zoals sociale netwerken die de verspreiding van niet-consensuele beelden beperken – maar voorlopig is het enige duidelijke plan van Nadella om de eigen kunstmatige intelligentie-eenheid van Microsoft beter in vorm te krijgen.
Gerelateerde artikelen: