Durfkapitalist DeedyDas plaatste op X een foto van een nepbon van een (echt) steakhouse in San Francisco waarvan hij zei dat deze met 4o was gemaakt.
Anderen zijn erin geslaagd vergelijkbare resultaten te repliceren, waaronder resultaten met voedsel- of drankvlekken, om ze er authentieker uit te laten zien:
Het meest realistische voorbeeld komt eigenlijk uit Frankrijk, waar een LinkedIn-gebruiker een door AI gegenereerde verfrommelde bon van een lokale restaurantketen plaatste:
TechCrunch heeft 4o getest en met succes een nepbon gegenereerd van een Applebee's in San Francisco:
Verschillende tekenen wijzen erop dat het een vervalsing is. Ten eerste wordt voor het totaal een komma gebruikt in plaats van een punt. Ten tweede klopt de wiskunde niet nauwkeurig. Grote modellen hebben nog steeds moeite om de basiswiskunde goed te krijgen, dus dat is niet verrassend.
Maar het is voor fraudeurs niet moeilijk om snel een paar cijfers te corrigeren met behulp van fotobewerkingssoftware of preciezere tips.
Het is duidelijk dat het zo gemakkelijk maken van betalingsbewijzen enorme mogelijkheden voor fraude biedt. Het is niet moeilijk voor te stellen dat deze technologie door criminelen zou kunnen worden gebruikt om volledig valse uitgaven te ‘terugbetalen’.
OpenAI-woordvoerder Taya Christianson zei dat al zijn afbeeldingen metadata bevatten die aangeven dat ze door ChatGPT zijn geproduceerd. Christianson voegde eraan toe dat OpenAI "actie onderneemt" wanneer gebruikers het gebruiksbeleid schenden en dat het "altijd leert van gebruik en feedback in de echte wereld."
Op de vraag waarom ChatGPT mensen toestaat valse bonnen te genereren en of dit in overeenstemming is met het gebruiksbeleid van OpenAI (geen fraude). Christiansen antwoordde dat het "doel van OpenAI is om gebruikers zoveel mogelijk creatieve vrijheid te geven" en dat de nep-AI-bonnen zouden kunnen worden gebruikt in niet-frauduleuze situaties, zoals "mensen financiële geletterdheid leren" en het maken van originele kunstwerken en productreclame.