Generatieve AI-diensten zijn enorm populair onder zowel internetgebruikers als cybercriminelen. Volgens de FBI wordt ‘synthetische’ inhoud steeds vaker gebruikt om verschillende vormen van fraude te plegen. Individuen kunnen zichzelf echter nog steeds effectief online beschermen, zolang ze de juiste voorzorgsmaatregelen nemen.
De FBI heeft gewaarschuwd voor crimineel misbruik van door kunstmatige intelligentie gegenereerde technologie. In een recente aankondiging van de publieke dienst waarschuwde het bureau de Amerikanen ervoor dat fraudeurs door kunstmatige intelligentie gegenereerde inhoud gebruiken om hun illegale plannen overtuigender en effectiever te maken.
Volgens de FBI stelt generatieve AI criminelen in staat de tijd en moeite te verminderen die nodig is om doelen te misleiden. Deze hulpmiddelen voor kunstmatige intelligentie ‘synthetiseren’ geheel nieuwe inhoud op basis van door de gebruiker ingevoerde aanwijzingen. Ze kunnen zelfs helpen bij het corrigeren van menselijke fouten die argwaan zouden kunnen wekken, vooral in door AI gegenereerde tekst.
Het maken van inhoud met behulp van kunstmatige intelligentie is niet per definitie illegaal, maar wordt wel een misdaad wanneer die inhoud wordt gebruikt voor fraude of afpersingspogingen. De FBI-waarschuwing schetst verschillende voorbeelden van hoe generatieve AI kan worden misbruikt en biedt praktisch advies om gebruikers te helpen zichzelf online veilig te houden.
In social engineering- of spearphishing-campagnes ziet de door AI gegenereerde tekst er buitengewoon overtuigend uit. Fraudeurs maken gebruik van door AI gegenereerde technologie om nep-inhoud te produceren, nep-sociale-mediaprofielen te maken, berichten te verzenden en talen te vertalen met grotere nauwkeurigheid en minder grammaticale fouten. Hele frauduleuze websites kunnen nu in recordtijd worden opgezet en chatbots worden gebruikt om slachtoffers te misleiden zodat ze op kwaadaardige links klikken.
Het lijdt geen twijfel dat door AI gegenereerde beelden vooroplopen in de huidige trends, en dat cybercriminelen daar ten volle van profiteren. Fraudeurs gebruiken door AI gegenereerde beelden om valse sociale-mediaprofielen en valse identiteitsdocumenten te verbeteren om frauduleuze activiteiten te ondersteunen. Volgens de FBI kunnen algoritmen voor kunstmatige intelligentie ‘realistische’ beelden genereren die worden gebruikt in social engineering-campagnes, spearphishing, oplichting en zelfs ‘killing pans’.
Door AI gegenereerde audio- en video-inhoud brengt vergelijkbare risico's met zich mee. Criminelen kunnen zich nu voordoen als publieke figuren of zelfs als het doelwit zelf, door financiële hulp aan te vragen of toegang te krijgen tot gevoelige informatie zoals bankrekeningen.
De FBI adviseert gebruikers om een 'geheim woord' of een geheime zin in te spreken bij vertrouwde familie en vrienden, als een snelle manier om de identiteit te verifiëren. Andere tips om je te beschermen tegen generatieve AI-misdaden zijn onder meer het zorgvuldig controleren van afbeeldingen en video’s op afwijkingen of inconsistenties, en het minimaliseren van de beschikbaarheid van persoonlijke afbeeldingen of opnames online.
Bij het behandelen van financiële verzoeken benadrukt de FBI het belang van het verifiëren van de legitimiteit ervan via directe telefoongesprekken in plaats van te vertrouwen op sms-berichten of e-mails. Deel nooit gevoelige informatie met mensen die u alleen online hebt ontmoet. Hoewel dit voor de hand liggend lijkt, herhaalt de FBI ook dat het online verzenden van geld, cadeaubonnen of cryptocurrency naar vreemden zeer riskant is en vaak tot oplichting leidt.