Onlangs vond er een schandalig incident plaats in Baltimore County, Maryland, VS:Een plaatselijk AI-pistooldetectiesysteem identificeerde de Doritos-cornflakeszak van een 16-jarige student ten onrechte als een vuurwapen, waardoor gewapende politie werd uitgezonden.
Het incident vond plaats op 20 oktober. Taki Allen, een leerling van de Kenwood High School, was net klaar met voetbaltraining en logeerde bij vrienden buiten de school. Plotseling reden meerdere politieauto's op en de politie richtte wapens op hen.
Allen herinnerde zich: "Er reden ongeveer acht politieauto's op ons af. Ze kwamen op me af met getrokken wapens en riepen: 'Ga op de grond', en ik dacht: 'Wat is er aan de hand?'" Hij beschreef de angst destijds:"Ze lieten me knielen met mijn handen op mijn rug gebonden en geboeid. Daarna fouilleerden ze me en vonden niets."
Allen werd door de politie onder schot gehouden, en de politie liet hem later het door de AI onderschepte beeld zien dat het alarm activeerde. Op de afbeelding werd de verfrommelde Doritos-tas in zijn zak door het systeem aangezien voor een pistool.
"Ik dacht vooral: 'Ga ik dood? Gaan ze mij vermoorden?' Ze lieten me de foto zien en zeiden dat het op een pistool leek', zei Allen met aanhoudende angst.
Het AI-systeem dat het incident veroorzaakte, is afkomstig van Omnilert, een technologie die vorig jaar door Baltimore County Public Schools werd geïntroduceerd en die bestaande bewakingsbeelden in realtime scant en de wetshandhaving onmiddellijk waarschuwt wanneer deze een object detecteert waarvan zij denken dat het een wapen is.
Allen hield een zak cornflakes vast, en zijn handen en één vinger zagen eruit alsof hij een pistool vasthield. Omnilert erkende dat het vals alarm was, maar voerde aan dat het systeem "werkte zoals bedoeld" en ontworpen was om "prioriteit te geven aan veiligheid door middel van snelle handmatige verificatie".
