De Federal Communications Commission zei donderdag dat zij frauduleuze geautomatiseerde spraakoproepen met nepstemmen gecreëerd door kunstmatige intelligentie onmiddellijk zou aanpakken, en hard zou optreden tegen de zogenaamde ‘deepfake’-technologie waarvan experts zeggen dat deze de verkiezingsveiligheid zou kunnen ondermijnen of fraude zou kunnen verergeren.
De unanieme stemming van de Federal Communications Commission breidt de antispamoproepregels uit naar ongevraagde deepfake-oproepen uit kunstmatige intelligentie, die volgens de federale wetgeving als "kunstmatige" oproepen worden beschouwd.
De FCC zei dat deze stap de procureurs-generaal meer juridische instrumenten geeft om het gebruik van door kunstmatige intelligentie gegenereerde geluiden na te streven om Amerikanen voor de gek te houden.
"Slechte acteurs gebruiken door kunstmatige intelligentie gegenereerde stemmen om kwetsbare familieleden af te persen, zich voor te doen als beroemdheden en kiezers te misleiden met ongevraagde robocalls", zei FCC-voorzitter Jessica Rosenworcel in een verklaring. "We moeten de fraudeurs achter deze robocalls laten rusten."
Weken voordat er werd besloten om de Telephone Consumer Protection Act (TCPA) van 1991 breder te interpreteren en er ook door kunstmatige intelligentie gegenereerde stemmen in op te nemen, was een nep-robocall waarin hij zich voordeed als president Joe Biden gericht op duizenden kiezers in New Hampshire, waarbij hen werd aangespoord niet deel te nemen aan de voorverkiezingen van de staat. De autoriteiten zeiden deze week dat ze de nepoproepen hadden gekoppeld aan een man uit Texas en twee bedrijven, en dat het lopende onderzoek zou kunnen resulteren in civiele en strafrechtelijke sancties.
Degenen die geautomatiseerde spraakoproepen willen verzenden “moeten de uitdrukkelijke voorafgaande toestemming van de gebelde partij verkrijgen voordat ze kunnen bellen met een kunstmatige of vooraf opgenomen stem die is gesimuleerd of gegenereerd met behulp van kunstmatige intelligentietechnologie”, zei de FCC in de aankondiging van donderdag.
Volgens de wijzigingen van donderdag zullen oplichtingsoproepen waarbij gebruik wordt gemaakt van gekloonde stemmen onderworpen zijn aan dezelfde boetes en gevolgen als illegale oproepen waarbij geen gebruik wordt gemaakt van de technologie. De Federal Communications Commission maakte vorige week bekend dat zij het voorstel in overweging neemt.
Overtredingen van de TCPA kunnen leiden tot zware civielrechtelijke sancties. In 2021 kondigde de Federal Communications Commission een voorgestelde boete van $ 5 miljoen aan tegen de rechtsen Jacob Wohl en Jack Burkman omdat ze naar verluidt illegale spraakoproepen hadden gebruikt om stemmen bij de verkiezingen van 2020 te voorkomen.
Volgens schattingen van YouMail, een bedrijf dat gekaapte oproepen blokkeert, piekte het aantal gekaapte oproepen in de Verenigde Staten in 2019 op ongeveer 58,5 miljard. Vorig jaar bedroeg dit aantal bijna 55 miljard.
Terwijl de Federal Communications Commission haar interpretatie van de federale wetgeving actualiseert, stellen sommige Amerikaanse wetgevers directe wetswijzigingen voor om illegale telefoongesprekken verder te beteugelen. De Democraten in het Huis van Afgevaardigden hebben dit jaar wetgeving onthuld die de maximale straffen in de TCPA voor robocall-schendingen waarbij gebruik wordt gemaakt van kunstmatige intelligentie, zou verdubbelen.
Andrew Schwarzman, docent aan de Georgetown University Law School en senior adviseur van Benton, noemde de stap van de FCC een belangrijke stap voorwaarts. “Niemand zou moeten denken dat dit slechte actoren ervan zal weerhouden slechte dingen te doen, maar het geeft de FCC de middelen om snel te handelen om bedrijven af te schrikken die deze acties faciliteren”, zei hij.
Als onderdeel van een breder optreden tegen illegale spraakoproepen door staats- en federale functionarissen heeft de FCC bevolen dat telefoonaanbieders die illegale spraakoproepen mogelijk maken, met geweld de verbinding met het Amerikaanse telefoonnetwerk kunnen en hebben verbroken.