Onlangs plaatste de politie van Vancouver in Canada een reeks foto's van drugsaanvallen op sociale media in een poging de resultaten te laten zien van een operatie in het Commercial-Broadway-gebied. Ze raakten echter in een draaikolk van de publieke opinie terecht omdat de foto's het label 'gemaakt met AI' kregen. Het incident deed al snel twijfels rijzen bij het publiek over de vraag of de politie generatieve kunstmatige intelligentie gebruikte om ‘hun administratie te verfraaien’, en werd bekritiseerd als een typisch geval van ‘AI-slop’.
Naar verluidt werd deze reeks foto's oorspronkelijk gebruikt om samen te werken met het politierapport, waarin wordt benadrukt dat de politie van Vancouver tijdens de week van de uitkering "aanzienlijke vooruitgang heeft geboekt" bij de aanpak van de drugshandel en straatoverlast in het Commercial-Broadway-gebied, waarbij binnen 24 uur meerdere arrestaties zijn verricht. De afbeelding heeft echter niet alleen het duidelijke 'made with AI'-keurmerk, maar er zijn ook gedetailleerde problemen zoals het onjuist markeren van contante coupures. Sommige biljetten van CAD 50 werden bijvoorbeeld geschreven als CAD 20, wat een sterk wantrouwen wekte in de authenticiteit en de omgang met de foto's.
Terwijl de kritiek bleef escaleren, reageerde de politie van Vancouver eerst door te zeggen dat ze inderdaad ‘software’ hadden gebruikt om de namen van de betrokkenen bij de zaak te bewerken, in een poging het gebruik van AI te classificeren als een eenvoudige privacymaatregel. Veel internetgebruikers en media wezen er echter op dat, afgaande op de algemene visuele effecten en tekstannotaties, de afbeelding duidelijk diepgaand is gewijzigd, afgezien van "naamsmering", en meer lijkt op het regenereren of reconstrueren van een live-opname met behulp van AI-tools.
Toen de publieke opinie toenam, verwijderde de politie vervolgens de originele reeks foto's met de woorden "gemaakt met AI" en verving ze door een nieuwe reeks foto's. De nieuwe versie vertoonde niet langer het AI-keurmerk. Desondanks is het publiek nog steeds zeer sceptisch over "welke versie van de oude en nieuwe foto's het echte record ter plaatse is." Sommige mensen op sociale platforms vroegen rechtstreeks of de politie de zogenaamde ‘echte foto’s’ vergeleek met eerdere ‘AI-junk-inhoud’ om de aanvankelijke ongepaste praktijken te verdoezelen.
Dit incident zorgde er ook voor dat de politie van Vancouver door veel technologie- en mediacommentaren werd opgenomen in de lijst van organisaties die "vertrouwen op AI-spaminhoud om de prestaties kunstmatig te verbeteren". Sommige analisten hebben erop gewezen dat de geloofwaardigheid van wetshandhavingsinstanties sterk afhankelijk is van de authenticiteit van het gepresenteerde bewijsmateriaal. Als er eenmaal onenigheid ontstaat over het vermoeden dat zelfs de foto's van de voorwerpen die bij de zaak betrokken zijn, door AI zijn gegenereerd of te veel zijn geretoucheerd, zal dit onvermijdelijk het vertrouwen van het publiek in hun actierapporten verzwakken.
Het rapport vermeldde ook dat dit geen op zichzelf staand geval is. Bedrijven en de marketingindustrie verhogen gezamenlijk de investeringen in tools voor het genereren van AI-inhoud, in de hoop de kosten te verlagen en de output te verhogen. Volgens eerdere relevante onderzoeken had echter slechts ongeveer 26% van de ondervraagde consumenten een positieve houding tegenover dit soort door AI gegenereerde inhoud. Reguliere gebruikers hebben geen hoge tolerantie voor ‘AI-spaminhoud’ en stellen in plaats daarvan strengere eisen aan transparantie en authenticiteit.
In deze “omvergeworpen” zaak van de politie van Vancouver werd het aanvankelijke onvermogen om het keurmerk “made with AI” te verwijderen de aanleiding, waardoor ook de technische en regelgevende tekortkomingen van het agentschap bij het gebruik van generatieve AI aan het licht kwamen. De huidige publieke opinie is over het algemeen van mening dat, vooral grafische inhoud die verband houdt met wetshandhaving en publieke macht, als door AI gegenereerde of zwaar geretoucheerde beelden willekeurig door elkaar worden gemengd bij gebrek aan duidelijke regels en publieke instructies, dit onvermijdelijk het wantrouwen van het publiek ten aanzien van officiële informatie zal vergroten.