Volgens nieuws van 7 juni is een aantal politiekorpsen in Engeland en Wales gevraagd te stoppen met het gebruik van AI-instrumenten om gerechtelijke verklaringen en strafrechtelijke documenten op te stellen, omdat fouten in de relevante output de betrouwbaarheid van daaropvolgende juridische procedures zullen aantasten. Volgens een rapport van de Financial Times van 5 juni werd het verzoek gedaan door Alex Murray, het hoofd van AI-werk bij de Britse politie.
Murray is ook directeur van de National Crime Agency en hoofd van AI-zaken bij de National Police Chiefs Council (NPCC). Groot-Brittannië heeft zojuist in januari van dit jaar aangekondigd dat het 115 miljoen pond zal investeren in de bouw van een nationaal politie-AI-centrum om het meer uniforme gebruik van AI door de 43 politiekorpsen in Engeland en Wales te bevorderen.
Rechtbankmateriaal kan niet uitsluitend vertrouwen op “verificatie vóór indiening”
Wat deze keer wordt stopgezet zijn materialen die in het strafrechtproces terecht zouden kunnen komen, waaronder gerechtelijke verklaringen en gerelateerde processtukken. Voor politieagenten lijken AI-geschreven rapporten tijd te besparen; maar voor getuigen, verdachten en aanklagers is het probleem dat deze woorden de basis kunnen vormen voor de beoordeling of de feiten en procedures van de zaak in overeenstemming zijn.
Als AI niet-bestaande feiten schrijft, tijdlijnen of foutieve samenvattingen in materiaal verwart, en het daaropvolgende personeel dit materiaal gebruikt om de zaak te organiseren, bewijsverklaringen op te stellen of deze aan de rechtbank voor te leggen, is de fout niet langer alleen maar een ‘verkeerde zin’, maar kan deze zich verspreiden in de hele procesafhandelingsketen. Ook het zogenaamde ‘controleren van AI-uitvoer’ is in dit soort scenario’s moeilijk op te lossen met één vraag: moet de checker elk feit en elk citaat controleren, of alleen maar beoordelen of de tekst vlot is? Als het antwoord is om het allemaal nog een keer te doen, wordt de door de AI bespaarde tijd gecompenseerd.
De Britse Crown Prosecution Service (CPS) heeft een ethische verklaring over AI afgegeven, waarin wordt benadrukt dat AI-instrumenten onder menselijk toezicht moeten worden gebruikt, met speciale nadruk op eerlijkheid, transparantie en verantwoording. Zodra politiedocumenten in de frontlinie echter in de strafrechtelijke procedure terechtkomen, liggen de grenzen van de verantwoordelijkheid gevoeliger dan in gewone kantooromgevingen: er moeten duidelijke gegevens worden bijgehouden over wie de materialen heeft geschreven, wie ze heeft gecontroleerd en wie verantwoordelijk is voor de fouten.
De fictieve voetbalwedstrijd van januari dit jaar luidde de noodklok
De Britse politie is voorzichtig geworden over de risico’s van AI-documenten, en dat is niet zonder precedent. In januari van dit jaar bood Craig Guildford, voormalig hoofdcommissaris van politie van West Midlands, zijn excuses aan bij de Home Affairs Select Committee van het Britse parlement voor inlichtingenmateriaal dat een AI-fout bevatte.
In dit materiaal werd vermeld dat fans van de Israëlische voetbalclub Maccabi Tel Aviv (Maccabi Tel Aviv) conflicten hadden met de Premier League West Ham United, maar dat het betreffende spel niet bestond. The Guardian meldde dat Guildford toegaf dat de fout voortkwam uit fictieve inhoud die door de politie was gegenereerd met behulp van Microsoft Copilot.
Dit incident bracht aan het licht dat wanneer door AI gegenereerde inhoud wordt opgenomen in formele wetshandhavings- of openbare besluitvormingsdocumenten, het voor externe lezers moeilijk is om op basis van de tekst te beoordelen welke inhoud oorspronkelijk is geverifieerd en welke slechts een secundaire representatie is nadat het model is gegenereerd. Als het om gerechtelijk materiaal gaat, zal deze ondoorzichtigheid rechtstreeks van invloed zijn op de rechten van de partijen en de geloofwaardigheid van de zaak.
Promotors van de AI-politie nemen het voortouw bij het intrekken van de meest gevoelige links
De Britse regering heeft in januari van dit jaar het Police AI Centre aangekondigd met als doel de oprichting van een uniform test-, trainings- en beheersmechanisme te versnellen. De NPCC zei destijds dat de investering van £115 miljoen de politie zou helpen misdaden sneller op te lossen en dat er naar verwachting ongeveer 6 miljoen politie-uren per jaar zouden worden vrijgemaakt, wat overeenkomt met de werklast van ongeveer 3.000 fulltime politieagenten.
Daarom lijkt deze opschorting meer op het trekken van een grens voor AI-politie: AI kan in de eerste plaats worden gebruikt voor back-end-werk dat weinig risico met zich meebrengt, traceerbaar en gemakkelijk te beoordelen is, zoals desensibilisatie van gegevens, voorlopige screening van niet-dringende alarmen en het sorteren van interne informatie; getuigenissen van de rechtbank en documenten uit het strafrecht zijn echter risicovolle verbanden en kunnen niet alleen worden gedekt door "de mens is uiteindelijk verantwoordelijk".
Als u getuige, verslaggever, verdachte of beklaagde bent in een zaak, moet het verklaringsmateriaal waarmee u te maken krijgt afkomstig zijn van iemand die ter verantwoording kan worden geroepen, en niet van een reeks AI-teksten waarvan het generatieproces achteraf moeilijk te herstellen is. Het is uiteraard belangrijk dat de politie tijd bespaart bij het schrijven van aangiften, maar dit mag niet ten koste gaan van de geloofwaardigheid van gerechtelijk materiaal.
De schorsing van Groot-Brittannië zal deze keer geen op zichzelf staand geval zijn. In de afgelopen twee jaar zijn er gevallen geweest in de Verenigde Staten, Canada, Australië en andere plaatsen waarin advocaten kunstmatige AI-zaken aanhaalden en rechtbanken richtlijnen uitvaardigden voor het gebruik van AI. Nu is het risico groter geworden doordat advocaten documenten hebben ingediend bij de onderliggende dossiers van de politie. De echte moeilijkheid bij het binnendringen van AI in het rechtssysteem ligt niet in de kwaliteit van de tekstgeneratie, maar in de vraag of elke verklaring die de rechten van anderen kan aantasten, kan worden geverifieerd, getraceerd en ter verantwoording kan worden geroepen.