Nadat bij de voorverkiezingen van vorige maand een boodschap klonk die was ontworpen om te klinken als de stem van de Amerikaanse president Joe Biden, die inwoners van New Hampshire vertelde niet te stemmen, is de Federal Communications Commission (FCC) bezig om het illegaal te maken om door kunstmatige intelligentie gegenereerde stemmen te gebruiken voor robocalls. Het bureau is bezorgd dat deepfake-audiotechnologie wordt gebruikt om consumenten te verwarren en te misleiden door de stemmen van 'beroemdheden, politieke kandidaten en naaste familieleden' te imiteren.

Het voorstel van FCC-voorzitter Jessica Rosenworcel zou het volgens de Telephone Consumer Protection Act (TCPA) illegaal maken om door kunstmatige intelligentie gegenereerde stemmen te gebruiken om op te nemen.

De TCPA-wet uit 1991 beperkt telemarketing, het gebruik van automatische telefoonkiessystemen en kunstmatige of vooraf opgenomen spraakberichten. De wet vereist ook dat telemarketeers de uitdrukkelijke schriftelijke toestemming van consumenten verkrijgen voordat ze met consumenten bellen. De FCC wil dat door AI gegenereerde geluiden ook aan deze normen voldoen. De verwachting is dat de vijf leden van de commissie de komende weken over het voorstel zullen stemmen.

“Door AI gegenereerde stemklonen en beelden zaaien al verwarring, waardoor consumenten denken dat oplichting en fraude legitiem zijn”, aldus Rosenworcel in een verklaring. "Het maakt niet uit welke beroemdheid of politicus je leuk vindt of wat je relatie met je familieleden is, we zijn waarschijnlijk allemaal het doelwit van deze nepoproepen als ze om hulp roepen."

Spraakfraudedetectiebedrijf Pindrop analyseerde het 39 seconden durende nepbericht dat klonk alsof Biden de inwoners van New Hampshire vertelde niet te stemmen en ontdekte dat het was gemaakt met behulp van de tekst-naar-spraak-engine van ElevenLabs. De startup gebruikt kunstmatige intelligentiesoftware om de geluiden van meer dan twintig talen te repliceren.

Volgens Bloomberg bevestigde ElevenLabs dat zijn software werd gebruikt bij het incident in New Hampshire en verbood het verantwoordelijke account. Het kantoor van de procureur-generaal van New Hampshire heeft een onderzoek aangekondigd naar telefoontjes van mensen die zich voordoen als Biden.

Een FCC-woordvoerder zei dat mogelijke wetswijzigingen de procureurs-generaal nieuwe bevoegdheden zouden geven om hard op te treden tegen oplichters van telefoonoproepen die kunstmatige intelligentie gebruiken en tegelijkertijd de consument te beschermen.

De FCC vecht al jaren tegen robocalls. In december 2022 stelde de Federal Communications Commission een boete van $ 300 miljoen voor tegen een illegale multinationale robocall-operatie die in 2021 in een periode van drie maanden meer dan 5 miljard robocalls naar meer dan 500 miljoen telefoonnummers plaatste. In 2020 legde het bureau ook $ 225 miljoen aan boetes op voor misleidende robocalls.

Het genereren van de stem van familieleden is voor criminelen een gebruikelijk middel geworden om geld te stelen van nietsvermoedende slachtoffers. Deze misdaad blijft toenemen naarmate de door AI gegenereerde technologie toegankelijker, goedkoper en overtuigender wordt.