Angela Lipps, een 50-jarige grootmoeder die in Tennessee, VS woont, probeert nu haar leven weer op de rails te krijgen. Eerder identificeerde een gezichtsherkenningssysteem met kunstmatige intelligentie haar ten onrechte als verdachte in een onderzoek naar bankfraude, waardoor ze bijna zes maanden in de gevangenis moest doorbrengen.
Volgens lokale mediaberichten in het zuidoosten van North Dakota heeft de politie van Fargo gezichtsherkenningssoftware gebruikt om bewakingsbeelden te vergelijken en de naam van Lipps te identificeren bij het onderzoeken van een georganiseerde bankfraudezaak. Een vrouw werd betrapt terwijl ze een valse identiteitskaart van het Amerikaanse leger gebruikte om tienduizenden dollars contant van een bankrekening op te nemen, aldus de politie. Onderzoekers schreven in gerechtelijke documenten dat de verdachte de gelaatstrekken, lichaamsvorm en kapsel van Lipps 'matchte'.
Lipps hield echter vol dat hij nog nooit in North Dakota was geweest, daar niemand kende en niet betrokken was bij aanverwante misdaden. Ze zei dat ze bijna haar hele leven in het noorden van centraal Tennessee had gewoond en nog nooit met een vliegtuig had gevlogen totdat ze op het vliegtuig werd gezet om naar de rechtbank in North Dakota te gaan.
In juli vorig jaar kwamen Amerikaanse Marshals plotseling naar haar huis in Tennessee en arresteerden haar terwijl ze hielp met de zorg voor haar vier kinderen. Lipps herinnerde zich dat hij onder schot was weggevoerd en vervolgens in de plaatselijke gevangenis was opgenomen als een 'voortvluchtige verdachte uit North Dakota'. Ze werd beschuldigd van vier gevallen van "ongeoorloofd gebruik van de persoonlijk identificeerbare informatie van iemand anders" en vier gevallen van diefstal.
Sindsdien heeft Lipps bijna vier maanden in een gevangenis in Tennessee gezeten, zonder borgtocht of uit de staat vervoerd. Volgens lokale rapporten zaten er 108 dagen tussen haar arrestatie in juli en haar transport naar North Dakota eind oktober. Ze verscheen pas de dag na aankomst in Fargo voor het eerst in een rechtbank in North Dakota.
Lipps zei dat er nooit contact met haar was opgenomen door de politie van Fargo en dat niemand vóór haar arrestatie had geprobeerd haar identiteit of verblijfplaats te verifiëren. Haar advocaat, Jay Greenwood, bekritiseerde dat als het "enige bewijs van de onderzoekspartij de gezichtsherkenningsresultaten zijn, ze misschien verder onderzoek moet doen."
Op kerstavond nam de zaak een wending. De advocaat van Greenwood heeft de bankafschriften en bijbehorende gegevens van Lipps verkregen en aan de onderzoekers voorgelegd. Uit de gegevens blijkt dat Lipps zich in Tennessee bevond, ruim 2000 kilometer verwijderd van Fargo, ten tijde van de vermeende misdaden. Lipps werd op kerstavond vrijgelaten nadat dit bewijsmateriaal naar voren kwam.
Hoewel de strafrechtelijke vervolging uiteindelijk werd ingetrokken, verliep de terugkeer van Lipps naar Tennessee niet soepel. De politie van Fargo, zei ze, dekte de kosten van de terugreis niet en liet haar daar achter. Verschillende lokale advocaten hielpen mee met het betalen van haar hotel en maaltijden op kerstavond en eerste kerstdag, en een lokale non-profitorganisatie genaamd het F5 Project hielp geld inzamelen om terug te keren naar Tennessee.
Nadat hij zijn vrijheid had herwonnen, ontdekte Lipps dat wat hem te wachten stond een verwoest leven was. Gedurende bijna een half jaar in hechtenis verloor ze haar huis, haar auto en zelfs haar geliefde hond omdat ze niet kon werken en haar rekeningen niet kon betalen. Ze zei ook dat ze tot nu toe geen enkele verontschuldiging heeft ontvangen van de politie van Fargo.
Dit incident heeft opnieuw aanleiding gegeven tot bezorgdheid over het gebruik van kunstmatige intelligentietechnologie door de politie. De afgelopen maanden zijn er veel gevallen geweest van AI-herkenningsfouten en het behandelen van onschuldige mensen als verdachten, wat de aandacht heeft getrokken. In oktober vorig jaar identificeerde een AI-wapendetectiesysteem dat werd gebruikt door een middelbare school in Baltimore, Maryland, VS, een zak chips in de hand van een leerling ten onrechte als een pistool en belde onmiddellijk de politie. Als gevolg hiervan werd de student aangehouden, geknield en ter plekke gefouilleerd door gewapende politieagenten. Uiteindelijk werd er niets gevonden. Eerder dit jaar arresteerde de Britse politie een Zuid-Aziatische man omdat gezichtsherkenningssoftware hem ten onrechte koppelde aan een verdachte van een inbraak meer dan 160 kilometer verderop. Later werd bevestigd dat hij de verkeerde persoon had gearresteerd.
In een tijd waarin technologie snel doordringt in het proces van de afhandeling van politiezaken, is de ervaring van Lipps een duidelijk voorbeeld geworden: wanneer kunstmatige intelligentie steeds meer beslissingsbevoegdheden krijgt, maar onvoldoende handmatige controle en ondersteunende garanties ontbeert, worden de kosten van onjuiste identificatie vaak gedragen door gewone mensen die het minst in staat zijn zich te verzetten.