Vrijdag maakte kunstmatige-intelligentiegigant OpenAI een beveiligingsincident bekend, waarbij hij zei dat zijn interne tools updates downloadden voor legitieme open source-softwarebibliotheken waarmee kwaadwillig was geknoeid. Volgens Google is deze grootschalige hackcampagne nauw verwant aan een Noord-Koreaanse hackersgroep.
OpenAI heeft de situatie gedetailleerd beschreven in een blogpost die vrijdagavond laat werd gepubliceerd. Op 31 maart kaapten hackers het account van een ontwikkelaar en brachten twee gecompromitteerde updates uit voor Axios, een veelgebruikte JavaScript HTTP-verzoekbibliotheek (let op: deze bibliotheek is niet gelieerd aan het nieuwskanaal Axios). De kwaadaardige update werd helaas gedownload door OpenAI's GitHub-workflow die werd gebruikt om certificaten voor MacOS-applicaties te ondertekenen voordat de anomalie werd ontdekt.
Het bedrijf merkte op dat gebruikers van MacOS-applicaties, waaronder ChatGPT, Atlas en Codex, getroffen kunnen worden door het incident. De potentiële dreiging van deze aanval is dat zodra hackers toegang krijgen tot het systeem en relevante certificaten stelen, ze valse OpenAI-applicaties kunnen maken met legitieme backend-certificaten. Deze nep-apps zijn uiterst misleidend genoeg om het apparaat en de Apple App Store te laten denken dat ze officieel zijn.
Ondanks het grote potentiële risico heeft OpenAI duidelijk gemaakt dat het geen daadwerkelijke gevallen heeft gevonden waarin hackers gestolen certificaten gebruiken om nepapplicaties te publiceren, en dat er geen bewijs is dat de persoonlijke gegevens van gebruikers, het intellectuele eigendom van het bedrijf of de interne kernsystemen zijn aangetast. Bovendien zijn er momenteel geen tekenen dat er sprake is van beïnvloeding door applicaties op iOS, Android, Windows en andere platforms.
Industrieanalisten zijn van mening dat dit incident een nieuwe status quo op het gebied van de beveiliging aan het licht brengt: de huidige kunstmatige-intelligentiebedrijven worden niet alleen geconfronteerd met specifieke bedreigingen voor de AI-technologie, maar zijn ook het belangrijkste doelwit geworden van traditionele aanvallen op de toeleveringsketen van software.
Om veiligheids- en voorzichtigheidsredenen heeft OpenAI aangekondigd dat het op 8 mei officieel zal stoppen met het ondersteunen van oudere versies van MacOS-applicaties. Het bedrijf biedt gebruikers een updateperiode van 30 dagen. Als deze niet binnen de vervaldatum wordt bijgewerkt, kan de oude versie van de applicatie worden geblokkeerd voor nieuwe downloads en eerste lanceringen, omdat de relevante certificaten worden ingetrokken. Momenteel wordt dit veiligheidsincident nog steeds opgevolgd en ontwikkeld.