Deskundigen waarschuwden onlangs dat de technologie voor real-time stemvervalsing volwassen is geworden en nieuwe netwerkveiligheidsrisico's met zich meebrengt. Met de wijdverspreide beschikbaarheid van open source AI-tools en betaalbare hardware kunnen aanvallers kunstmatige intelligentie gebruiken om iemands stem in realtime gesprekken te vermommen en te imiteren, waardoor eerdere technische beperkingen worden doorbroken die alleen vooraf opgenomen inhoud kunnen verwerken of lange verwerkingstijden vereisen.
Uit nieuw onderzoek van cybersecuritybedrijf NCC Group blijkt dat door het combineren van een AI-spraakmodel met een gewone laptop of smartphone, hoogwaardige realtime stemimitatie kan worden bereikt met slechts een halve seconde vertraging. Operators kunnen met eenvoudige handelingen spraakklonen starten op een aangepaste webinterface. Deze 'deepfake voice phishing'-aanvalsmethode kan worden voltooid met een grafische kaart met een lagere configuratie, en zelfs de microfoon van een gewoon apparaat kan worden gebruikt om realistische effecten te verkrijgen.
Eerdere technologie voor diepe stemvervalsing vergt doorgaans veel tijd om stemgegevens te trainen, kan alleen vooraf opgenomen clips genereren en is niet geschikt voor realtime interactie. Deze doorbraak elimineert volledig de pauzes en het niet-reageren in het stemimitatieproces, waardoor de aanvalsefficiëntie en verhulling aanzienlijk worden verbeterd. Beveiligingsadviseurs van NCC Group ontdekten in daadwerkelijke tests dat dit type aanval, in combinatie met spoofing van nummerherkenning, het doelwit bijna elke keer kan misleiden, en dat het risico op nabootsing van de identiteit van telefoonstemverificatie aanzienlijk toeneemt.
Hoewel diepe stemvervalsing in realtime steeds realistischer wordt, zijn er nog steeds technische obstakels voor hetzelfde niveau van diepe vervalsing van realtime video, zoals gezichtsuitdrukkingen en stem die niet synchroon lopen, die gemakkelijk te detecteren zijn. Experts zeiden bijvoorbeeld dat één bedrijf zelfs werd opgelicht door AI-nepvideo's en laptops naar het verkeerde adres stuurde, wat aantoont dat audio- en videogesprekken alleen niet langer de veiligheid van identiteitsverificatie kunnen garanderen.
Naarmate hulpmiddelen voor kunstmatige intelligentie populairder worden, roepen experts op tot meer geavanceerde methoden voor verificatie op afstand, zoals het toevoegen van unieke gestructureerde signalen of geheime codes aan communicatie, om social engineering-aanvallen veroorzaakt door deepfakes te voorkomen. Anders lopen zowel individuen als organisaties een groter risico op fraude met AI-namaak.