Het Amerikaanse Congres heeft scherp geformuleerde brieven gestuurd naar technologiemanagers, waaronder Tim Cook van Apple Inc., waarin zij hun bezorgdheid uitten over de prevalentie van niet-consensuele deepfake-intieme beelden. De brieven komen voort uit eerdere berichten over het gebruik van apps om deepfake-naaktafbeeldingen te maken. Er zijn talloze advertenties op sociale media geweest die face-swapping promoten, waarbij gebruikers hun gezicht in naakt- of pornografische afbeeldingen invoegen.
Volgens een nieuw rapport van 404Media handelt het Amerikaanse Congres naar deze rapporten door technologiebedrijven te vragen hoe zij van plan zijn te voorkomen dat niet-consensuele intieme beelden op hun platforms worden gegenereerd. Er zijn brieven gestuurd naar Apple, Alphabet, Microsoft, Meta, ByteDance, Snap en X.
In zijn brief aan Apple merkte Apple specifiek op dat het bedrijf, ondanks de App Review Guidelines, dergelijke apps voor tweeërlei gebruik negeerde. In de brief werd gevraagd hoe Apple van plan is de verspreiding van deepfake-pornografische inhoud tegen te gaan en werd de "TAKEITDOWN Act" genoemd.
Dit zijn de vragen voor Tim Cook:
Welke plannen heeft uw bedrijf om de verspreiding van deepfake-pornografie op het platform proactief te bestrijden, en wat is de tijdlijn voor de implementatie van deze maatregelen?
Welke personen of belanghebbenden waren eventueel betrokken bij de ontwikkeling van deze plannen?
Wat is het proces nadat een melding is ingediend? Welke toezichtsmaatregelen zijn er getroffen om ervoor te zorgen dat deze meldingen snel worden verwerkt?
Wat is het proces om te bepalen of een applicatie uit de winkel moet worden verwijderd?
Welke rechtsmiddelen staan gebruikers ter beschikking als zij melden dat hun afbeeldingen zonder hun toestemming in een deepfake zijn opgenomen?
Apple is de rentmeester van de App Store en kan daarom op elk moment de schuld krijgen. Deze voorbeelden van deepfake-tools of kinderapps die casino's worden, worden gebruikt als argument dat Apple geen poortwachter van zijn app-platform mag worden.
Apps die door Apple zijn verwijderd en die in eerdere rapporten zijn geïdentificeerd, vertoonden duidelijke tekenen van mogelijk misbruik. Gebruikers kunnen bijvoorbeeld video's van Pornhub krijgen om face-swapping uit te voeren.
Apple Intelligence kan geen naakt- of pornografische afbeeldingen maken en Apple heeft Apple Login geblokkeerd voor het werken op deepfake-sites. Dit is echter slechts het minimum dat Apple kan en moet doen om deepfakes te bestrijden.
Zoals in de congresbrief wordt gesuggereerd, moet Apple stappen ondernemen om ervoor te zorgen dat apps voor tweeërlei gebruik niet door de beoordeling komen. Voor apps die AI-beeld- en videoverwerking beloven, vooral apps die face-swapping-mogelijkheden bieden, moeten op zijn minst extra voorzorgsmaatregelen worden genomen.