De politie van Hong Kong heeft onthuld dat kunstmatige intelligentie opnieuw voor kwade doeleinden is gebruikt. Het financiële personeel van een multinational werd gevraagd om zogenaamd geheime transacties uit te voeren door iemand die zich voordeed als de in Groot-Brittannië gevestigde Chief Financial Officer van het bedrijf, nadat aanvankelijke vermoedens waren weggenomen door deepfake-technologie.
Na ontvangst van de phishingmail werd de accountant uitgenodigd voor een videogesprek met een aantal andere mensen die veel op zijn collega’s leken en klonken. Maar zij waren het niet echt; iemand had deepfake-technologie gebruikt om ze er gewoon zo uit te laten zien.
Het bedrog was echter voldoende om het slachtoffer voor de gek te houden, dat ongeveer $ 25,6 miljoen naar de oplichter overmaakte. De politie van Hong Kong zei dat dit niet het eerste serieuze gebruik van de technologie was, waarbij in eerdere zaken zes mensen werden gearresteerd, maar er was geen teken dat de persoon achter de laatste overval was gearresteerd.
De werknemer ontdekte pas dat de overdracht een oplichterij was toen hij contact opnam met het hoofdkantoor van het bedrijf, meldde CNN. Nadat het bedrijf zoveel geld had verloren, maakte het geen enkele informatie vrij en kende het de huidige arbeidsstatus van de werknemer niet.
Een aantal van de mensen die de medewerker ertoe hebben verleid videogesprekken te voeren, waren bedriegers. Dit laat alleen maar zien hoe krachtig technologie is, en waarom het reguleren van deze opkomende technologieën van cruciaal belang is.
De Amerikaanse verkiezingen, die later dit jaar plaatsvinden, zullen waarschijnlijk een belangrijk doelwit zijn voor deepfake-gerelateerde desinformatiecampagnes, dus het is belangrijk voor grote technologiebedrijven als Meta om gebruikers passende waarschuwingen te geven om de verspreiding van misleidende inhoud te helpen vertragen.
Er zijn stappen die gebruikers kunnen nemen om deepfakes te detecteren, waaronder niet-overeenkomende gelaatstrekken, het verifiëren van informatie bij vertrouwde bronnen en het letten op vreemd licht, schaduwen of hoofdbewegingen.