Het Palisades-gebied van Los Angeles werd op nieuwjaarsdag 2025 getroffen door een ernstige bosbrand en werd een van de dodelijkste bosbranden in de geschiedenis van de stad. De autoriteiten beschuldigden Jonathan Rinderknecht van brandstichting. Tijdens het proces verkregen ze de locatiegegevens van zijn iPhone, omliggende bewakingsvideo’s en getuigenverklaringen in een poging te bewijzen dat hij aanwezig was bij de brand en had deelgenomen aan de brandstichting. Naast traditioneel bewijsmateriaal werden de verslagen van zijn chats en het genereren van afbeeldingen met behulp van ChatGPT aan de rechtbank voorgelegd, wat nog steeds zeldzaam is in strafzaken.

Volgens aanklagers tijdens de rechtszaak vroeg Lindknecht aan ChatGPT om afbeeldingen te genereren die verband hielden met 'brand' en klaagde hij bij de chatbot over 'waarom hij altijd zo boos was'. Bovendien ging hij tekeer in het gesprek, waarbij hij rijke mensen ervan beschuldigde 'de wereld te ruïneren', en er werd opgemerkt dat hij ChatGPT had gevraagd of er brand was ontstaan ​​door iemands sigaret, of die persoon aansprakelijk zou worden gehouden. De aanklager probeerde dit te gebruiken om de mentale toestand en motivatie van de verdachte vorm te geven, wat impliceerde dat hij een abnormale focus op vlammen had en een sterke wrok koesterde tegen sociaal onrecht.

Dit argument, opgebouwd rond ChatGPT-chatrecords, kon de jury echter niet overtuigen. De jury zou bij een eindstemming met 10-2 voor de verdediging hebben gestemd, waardoor het vonnis in een impasse zat. In het Amerikaanse strafrechtsysteem vereisen grote zaken vaak dat jury’s tot een unaniem of vrijwel unaniem oordeel komen, en een impasse betekent het onvermogen om tot een duidelijk oordeel over schuld of onschuld te komen. De rechter verklaarde vervolgens dat de jury "verdeeld" was, oordeelde dat het een "jury-impasse" was in overeenstemming met de wet en verklaarde een nietig proces.

Een jurylid vertelde de lokale zender CBS LA dat ze niet dacht dat de ChatGPT-records iets substantieels bleken te zijn. Ze bekende dat ze 'veel met ChatGPT praatte' en vond de poging van de aanklager om karakterfouten uit de chatlogboeken af ​​te leiden 'irritant'. Volgens haar is de interactie met chatbots een onderdeel geworden van het dagelijks leven van gewone mensen, en zijn deze logs alleen al moeilijk te gebruiken als basis om te beoordelen of iemand criminele neigingen heeft.

Deze zaak weerspiegelt nieuwe controverses over het gebruik van kunstmatige intelligentie-instrumenten in gerechtelijke scenario's: aan de ene kant zijn aanklagers en onderzoeksinstanties steeds meer geneigd om gegevens van persoonlijke apparaten, online activiteitenregistraties en zelfs interactie-inhoud met AI als potentiële bronnen van bewijs te beschouwen; aan de andere kant hebben het publiek en de juryleden nog steeds sterke twijfels over de manier waarop deze gegevens moeten worden geïnterpreteerd en of ze de ware motieven en gedragingen adequaat weerspiegelen. In de Palisades-zaak waren de gegevens van ChatGPT niet de sleutel tot een veroordeling, maar wekten ze in plaats daarvan wrevel op onder de juryleden over de bewijsvoeringsstrategie van de aanklager.

Naarmate generatieve AI steeds meer wordt geïntegreerd in het dagelijks gebruik, zullen soortgelijke geschillen zich in de toekomst waarschijnlijk in meer gevallen herhalen. Hoe het rechtssysteem ‘dagelijkse chat’ onderscheidt van ‘gevarenvlaggen’ en hoe de algemene stigmatisering van technologiegebruikers kan worden vermeden, zullen praktische kwesties worden die dringend moeten worden aangepakt op het snijvlak van recht en technologie.