Beveiligingsonderzoekers hebben onlangs beveiligingskwetsbaarheden in de Connectors van OpenAI onthuld. Dit beveiligingslek kan door een aanvaller worden misbruikt om zonder gebruikersinteractie gevoelige informatie uit een Google Drive-account te extraheren via een indirecte prompt-injectieaanval.
Beveiligingsonderzoekers Michael Bargury en Tamir Ishay Sharbat maakten de ontdekking bekend op de Black Hat-hackerconferentie in Las Vegas. Bargury zei dat de aanval die wordt uitgevoerd door misbruik te maken van dit beveiligingslek een 'zero-click'-type is. De aanvaller hoeft alleen het e-mailadres van de gebruiker te achterhalen en het document te delen om de bewerking te voltooien. Hij wees er echter ook op dat deze aanvalsmethode slechts beperkte gegevens tegelijk kan extraheren en geen volledige documenten kan verwijderen.
Het is duidelijk dat Connectors een testfunctie is die eerder dit jaar door OpenAI voor ChatGPT is gelanceerd, waarmee gebruikers "hun tools en gegevens in ChatGPT kunnen brengen" en bewerkingen kunnen implementeren zoals "zoeken naar bestanden in de chat, realtime gegevens ophalen en inhoud citeren." Er zijn momenteel minstens 17 gerelateerde diensten.
Het is vermeldenswaard dat Bargury onthulde dat hij eerder dit jaar relevante bevindingen aan OpenAI rapporteerde. OpenAI heeft snel gehandeld door beperkende maatregelen te introduceren om technische middelen voor het extraheren van gegevens via de connector te voorkomen.
Tot nu toe heeft OpenAI niet publiekelijk gereageerd op problemen die verband houden met deze kwetsbaarheid. (Chun juni)