Een van de meest sinistere mogelijkheden van deepfake AI-systemen is de mogelijkheid om de stem van een persoon te repliceren, ook al is het maar een korte opname. Deepfake-versies van de stemmen van mensen, maar ook nepvideo’s, kunnen worden gebruikt om het te laten klinken en eruit te laten zien alsof een politicus of beroemdheid iets heeft gezegd wat ze nooit hebben gezegd. Daarnaast zijn er gevallen geweest waarin mensen oplichtingsoproepen hebben ontvangen waarin een deepfake-stem van een vriend of familielid hen vraagt ​​zo snel mogelijk geld te sturen vanwege een of andere noodsituatie. Bovendien kunnen gekopieerde stemmen worden gebruikt om beveiligingssystemen voor stemherkenning te omzeilen.

Een nieuwe softwaretool genaamd AntiFake kan dit echter helpen voorkomen.

Er bestaat al technologie om te bepalen of een vermeende stem een ​​deepfake is, en AntiFake is een van de eerste systemen die het ontstaan ​​van dergelijke nepstemmen voorkomt. Simpel gezegd doet het dit door het voor AI-systemen moeilijker te maken om de belangrijkste vocale kenmerken in opnames van menselijke stemmen te lezen.

"De tool maakt gebruik van een vijandige kunstmatige intelligentietechnologie die oorspronkelijk deel uitmaakte van de gereedschapskist van cybercriminelen, maar nu gebruiken wij deze op onze beurt om ons tegen hen te verdedigen", zegt uitvinder Ning Zhang, assistent-professor computerwetenschappen en techniek aan de Washington University in St. Louis.

"We hebben alleen een beetje geknoeid met het opgenomen audiosignaal, waardoor het werd vervormd of verstoord zodat het voor een menselijke luisteraar nog steeds goed klonk, maar het was totaal anders dan wat de AI waarnam."

Dit betekent dat zelfs als er een deepfake wordt gemaakt van een opname die is aangepast met AntiFake, deze niet zal klinken als de daadwerkelijke stem van de spreker. Tot nu toe uitgevoerde tests hebben aangetoond dat de technologie voor meer dan 95% effectief is in het voorkomen van de synthese van overtuigende deepfakes.

“Hoewel ik niet weet wat de volgende stap zal zijn voor AI-spraaktechnologie – er worden voortdurend nieuwe tools en mogelijkheden ontwikkeld – denk ik wel dat onze strategie om de technologie van onze tegenstanders te gebruiken om hen tegen te gaan effectief zal blijven,” zei Zhang.

Anti-namaakcodes zijn gratis beschikbaar voor iedereen die ze nodig heeft:

https://sites.google.com/view/yu2023antifake