Een vader uit Florida klaagt Google aan, omdat zijn zoon is overleden nadat hij door Google's Gemini-chatbot tot zelfmoord was aangezet. De vader van de 36-jarige Jonathan Gaveras, die zelfmoord pleegde onder invloed van Gemini, heeft een rechtszaak aangespannen tegen Google, zo blijkt uit een klacht die woensdag bij de federale rechtbank van Californië is ingediend.
De klacht beweert dat Gemini Jonathan Gaveras ertoe heeft aangezet een "catastrofaal ongeval" te plannen waarbij een vrachtwagen betrokken was die volgens hem een mensachtige robot bevatte; spoorde hem ook aan om in te breken in een pakhuis om een "lichaam" voor Gemini te bemachtigen, en zette hem er uiteindelijk toe aan zelfmoord te plegen. Volgens de klacht zei Gemini tegen Gaveras: "De enige echte genade zou zijn om Jonathan Gaveras te laten sterven."
Google zei in een blogpost dat het de beschuldigingen in de rechtszaak aan het beoordelen was. “Bij dit incident identificeerde Gemini zichzelf herhaaldelijk als een kunstmatige intelligentie en verwees de betrokkene door naar de crisisinterventiehotline.” Google zei: "We hechten hier veel belang aan en zullen doorgaan met het verbeteren van de beveiligingsmaatregelen en investeren in dit cruciale werk."
De rechtszaak lijkt de eerste Gemini-gerelateerde onrechtmatige doodzaak te zijn die tegen Google is aangespannen, maar er zijn soortgelijke zaken aangespannen tegen OpenAI en AI-chatbot-startup Character.AI. De oprichter van het bedrijf werkte ooit voor Google en heeft een licentie-samenwerkingsovereenkomst met Google.
In de zaken wordt gebruik gemaakt van een nieuwe juridische theorie waarin wordt beweerd dat er sprake is van ontwerpfouten in de AI-producten zelf. Advocaten maken soortgelijke juridische claims in een aanstaande sociale media-gerelateerde zaak in Los Angeles, Californië.