De laatste tijd maken hackers actief gebruik van populaire hulpmiddelen voor kunstmatige intelligentie, zoals ChatGPT en Claude, voor phishing. Hackers kiezen voor deze tools omdat ze een hoog zoekvolume hebben en officiële domeinnamen kunnen hergebruiken via plug-ins of het delen van inhoud. In ieder geval kunnen ze voor de meeste gebruikers niet direct uit de bovenste advertentie van de zoekresultaten van Google opmaken dat dit een phishing-website is, waardoor het succespercentage van phishing door hackers aanzienlijk hoger is.
Kwaadwillig gebruik van plug-infuncties voor phishing:
De ChatGPT Canvas-functie kan worden gebruikt om een canvas te maken dat lijkt op een webpagina. In de nieuwste phishing-campagne gebruikten hackers deze functie om een nep-officiële ChatGPT-website te maken. In het canvas beweerde de hacker dat het huidige verkeersvolume te hoog was en vroeg hij gebruikers om de desktopversie te downloaden om door te gaan met bezoeken. De downloadknop voor de desktopversie wees feitelijk naar een kwaadaardig installatiepakket van de hacker.
Deze phishing-methode heeft een aantal opvallende kenmerken: 1. Hackers gebruiken het ChatGPT-canvas om inhoud te creëren en te delen, dus de inhoudslink is nog steeds ChatGPT.com; 2. Hackers plaatsen advertenties in Google Zoeken en het adres dat in de advertenties wordt weergegeven is ook ChatGPT.com, wat de waakzaamheid van gebruikers kan verminderen; 3. Nadat gebruikers op de advertenties hebben geklikt om naar de landingspagina te gaan, wordt in de adresbalk nog steeds ChatGPT.com weergegeven en wordt deze website niet geblokkeerd door beveiligingssoftware.
Het is ook onwaarschijnlijk dat OpenAI het delen van inhoud die door gebruikers is gemaakt, zal beoordelen, dus dergelijke phishing-aanvallen zouden in de toekomst aanzienlijk moeten toenemen. Het kan voor gebruikers een goede keuze zijn om rechtstreeks advertentieblokkeringsextensies te installeren om advertenties van Google Zoeken of andere zoekmachines te blokkeren.
Er zijn ook soortgelijke visserijgevallen in Claude:
Sommige gebruikers hebben gemerkt dat phishing-websites gerelateerd aan Claude ook verschijnen in zoekadvertenties van Google. De phishing-methode is vergelijkbaar met de ChatGPT-zaak en maakt ook gebruik van de functie voor het delen van inhoud van Claude.Ai. Hackers gebruiken Claude eerst om kwaadaardige gesprekken te creëren, die links bevatten naar phishingwebsites of malwaredownloads die worden beheerd door hackers. Hackers creëren vooraf inhoud voor een verscheidenheid aan populaire software. Wanneer gebruikers bijvoorbeeld zoeken naar CPU-Z, zal de bovenste advertentie op de startpagina gebruikers begeleiden om naar Claude.Ai Share-inhoud te gaan en gebruikers vervolgens ertoe aan te zetten op de link te klikken om malware te downloaden.
Anthropic controleert uiteraard niet de inhoud die door gebruikers wordt gedeeld, dus deze phishing-methode is eigenlijk moeilijk volledig af te sluiten. Daarom kan het direct blokkeren van verschillende zoekmachine-advertenties de beste aanpak zijn.
via Jan