Er zijn grote taalmodellen gebruikt voor bedrog op scholen en voor de verspreiding van desinformatie in nieuwsberichten. Nu sluipen ze de rechtszalen binnen, waardoor de valse rechtszaken waarmee rechters in zware zaken worden geconfronteerd, worden verergerd en er nieuwe risico's ontstaan voor een toch al onder druk staand rechtssysteem.
Een recent rapport van Ars Technica beschrijft een uitspraak van het Georgia Court of Appeals die een groeiend risico benadrukt waarmee het Amerikaanse rechtssysteem wordt geconfronteerd: door AI gegenereerde hallucinaties die in gerechtelijke documenten binnensluipen en zelfs rechterlijke beslissingen beïnvloeden. In het echtscheidingsgeschil dienden de advocaten van de man een ontwerpbeschikking in, gevuld met verwijzingen naar niet-bestaande zaken – zaken die waarschijnlijk zijn verzonnen door generatieve AI-tools zoals ChatGPT. De rechtbank ondertekende het document en oordeelde vervolgens in het voordeel van de echtgenoot.
Pas toen de vrouw in beroep ging, kwamen de vervalste dagvaardingen aan het licht. Een beroepspanel onder leiding van rechter Jeff Watkins draaide het bevel terug en merkte op dat de nepzaken het vermogen van de rechtbank om het vonnis te herzien ondermijnden. Watkins was openhartig en zei dat de dagvaardingen een door AI gegenereerde hallucinatie zouden kunnen zijn. De rechtbank legde de advocaat van de man een boete op van $ 2.500.
Dit klinkt misschien als een op zichzelf staand geval, maar in februari van dit jaar kreeg een advocaat in een soortgelijke situatie een boete van $15.000. Juridische experts waarschuwden dat dit een voorbode zou kunnen zijn van wat komen gaat. Het is bekend dat generatieve AI-tools gemakkelijk informatie met overtuigend vertrouwen kunnen vervalsen – een gedrag dat bekend staat als ‘hallucinatie’. Naarmate kunstmatige intelligentie steeds toegankelijker wordt voor overweldigde advocaten en zelfvertegenwoordigde procederende partijen, zeggen experts, zullen rechters steeds vaker worden geconfronteerd met procesdocumenten vol nepzaken, valse precedenten en verwarrende juridische redeneringen die zich voordoen als legitiem.
Dit verergert het probleem nog verder in een rechtssysteem dat toch al dun is. In veel jurisdicties keuren rechters vaak zonder nadenken door advocaten opgestelde vonnissen goed. Het gebruik van kunstmatige intelligentie vergroot dit risico echter.
Advies van het Hof van Beroep over valse juridische citaten
“Ik kan me voorstellen dat dit het geval zou kunnen zijn in situaties waarin rechters veel zaken behandelen”, zegt rechtsgeleerde John Browning, een voormalige rechter van het Texas Court of Appeals die uitgebreid heeft geschreven over de ethiek van kunstmatige intelligentie in de wet.
Browning vertelde Ars Technica dat hij denkt dat het “zeer waarschijnlijk” is dat dit soort fouten vaker zullen voorkomen. Hij en andere experts waarschuwen dat rechtbanken, vooral op het basisniveau, niet klaar zijn om dergelijke door AI aangedreven lukrake praktijken aan te pakken. Momenteel vereisen slechts twee staten, Michigan en West Virginia, dat rechters over fundamentele “technische competentie” beschikken als het gaat om kunstmatige intelligentie. Sommige rechters hebben het gebruik van door AI gegenereerde documenten volledig verboden of hebben de openbaarmaking van het gebruik van AI verplicht gesteld, maar dit beleid is onvolledig, inconsistent en moeilijk af te dwingen vanwege het enorme aantal zaken.
Tegelijkertijd zijn door AI gegenereerde documenten niet altijd voor de hand liggend. Grote taalmodellen verzinnen vaak realistisch klinkende naamvallen, misleidende citaten en formeel klinkende juridische termen. Browning zei dat er veelbetekenende signalen zijn waar een rechter op kan letten: de verkeerde rechtbankverslaggever, een tijdelijk zaaknummer zoals '123456', of hoogdravende, formeel taalgebruik. Naarmate AI-tools echter geavanceerder worden, kunnen deze aanwijzingen geleidelijk verdwijnen.
Onderzoekers zoals Peter Henderson van het Polaris Laboratory van Princeton University ontwikkelen tools om de impact van kunstmatige intelligentie op gerechtelijke documenten te volgen en pleiten voor een open juridische bibliotheek om de verificatie te vereenvoudigen. Anderen hebben nieuwe oplossingen voorgesteld, zoals een ‘premiesysteem’ dat degenen beloont die valse gevallen ontdekken voordat ze worden gepakt.
Voorlopig is de echtscheidingszaak in Georgia een waarschuwing – niet alleen over onzorgvuldige advocaten, maar ook over de mogelijkheid dat rechtssystemen overweldigd raken en niet in staat zijn het gebruik van kunstmatige intelligentie in elk juridisch document te volgen. Zoals rechter Watkins waarschuwde: als door AI gegenereerde hallucinaties ongecontroleerd in de rechtszaken blijven binnensluipen, kunnen ze het vertrouwen in het rechtssysteem zelf ondermijnen.