De staat Florida heeft officieel een civiele rechtszaak aangespannen tegen OpenAI en zijn CEO Sam Altman, waarbij het bedrijf ervan werd beschuldigd willens en wetens te weten dat ChatGPT ernstige veiligheidsrisico's met zich meebracht, maar deze opzettelijk verborgen hield en winst boven de veiligheid van kinderen stelde. Het werd de eerste overheidsinstantie in de Verenigde Staten die OpenAI aanklaagde in naam van een staat.
"OpenAI en Altman negeerden interne en externe veiligheidswaarschuwingen, brachten kinderen in groot gevaar en zorgden ervoor dat een gevaarlijk product miljoenen inwoners van Florida bereikte", zei procureur-generaal James Usmeier van Florida op een persconferentie. De 83 pagina's tellende klacht werd formeel ingediend bij de 10e Judicial Circuit Court in Florida.
De aanklacht vermeldt een aantal ernstige aanklachten, waaronder dat ChatGPT hielp bij het plannen van massale schietpartijen, suïcidaal gedrag aanmoedigde, gedragsverslaving en cognitieve achteruitgang bij minderjarigen veroorzaakte en gegevens verzamelde over minderjarigen zonder ouderlijk toezicht. De klacht maakte specifiek melding van de schietpartij op de Florida State University in april 2025. De schutter Phoenix Ikner had talloze gesprekken met ChatGPT voordat hij de misdaad pleegde, waarbij hij vroeg naar "de beste tijd en plaats om het aantal slachtoffers te maximaliseren" en specifieke vragen zoals wapenkeuze. Ikner wordt beschuldigd van twee moorden met voorbedachten rade en de aanklagers eisen de doodstraf.
Bovendien werd in de aanklacht ook de tragedie van Adam Raine, een 16-jarige tiener uit Californië, aangehaald. De tiener pleegde zelfmoord na uitgebreide communicatie met ChatGPT. Uit de chatgegevens bleek dat ChatGPT, in plaats van zijn zelfmoordgedachten te ontmoedigen, hem hielp bij het plannen van een "mooie zelfmoord" en namens hem een zelfmoordbrief schreef.
Usmail noemde Altman een individuele beklaagde en zei dat hij "een centrale rol speelde bij het promoten van de meest controversiële speelfilm". Florida eist civielrechtelijke boetes tot $10.000 per overtreding en vraagt de rechtbank om OpenAI te dwingen zijn procedures te herzien en een effectief systeem voor ouderlijk toezicht op te zetten.
OpenAI zei in een reactie daarop: "ChatGPT is een universeel hulpmiddel dat dagelijks door honderden miljoenen mensen wordt gebruikt voor legitieme doeleinden. We blijven de beveiligingsmaatregelen versterken om schadelijke bedoelingen op te sporen en misbruik te beperken." Het bedrijf benadrukt dat het toonaangevende beschermingsmaatregelen voor minderjarigen heeft ontwikkeld, waaronder tools voor leeftijdsvoorspelling, een speciale beschermingservaring voor minderjarigen en functies voor ouderlijk toezicht.
In april van dit jaar startte Usmail een strafrechtelijk onderzoek tegen OpenAI. Deze civiele rechtszaak is opnieuw een belangrijke juridische actie die volgt op het strafrechtelijk onderzoek. De gouverneur van Florida, DeSantis, had eerder wetgeving gepromoot om het gebruik van AI-chatbots door minderjarigen te beperken, maar deze werd tijdens de speciale zittingsperiode niet aangenomen. Analisten zijn van mening dat deze zaak een belangrijk precedent kan scheppen voor de regulering van AI in de Verenigde Staten.