PimEyes, een openbare zoekmachine die gezichtsherkenning gebruikt om foto's van mensen online te matchen, is nu verboden voor minderjarigen vanwege zorgen over de persoonlijke veiligheid van kinderen, aldus The New York Times. In theorie tenminste. Het nieuwe detectiesysteem van PimEyes, dat leeftijdsdetectie-AI gebruikt om te identificeren of een gezicht dat van een kind is, is nog in ontwikkeling. Na het testen ontdekte de New York Times dat het nog steeds moeilijk was om te identificeren of de gefotografeerde persoon vanuit bepaalde hoeken een kind was, en dat de AI niet nauwkeurig kon detecteren of een tiener een volwassene was.
Giorgi Gobronidze, CEO van PimEyes, zei dat het bedrijf al sinds 2021 van plan is dergelijke beschermende maatregelen te implementeren. Maar nadat New York Times-schrijver Kashmir Hill vorige week een artikel publiceerde over de bedreiging die AI vormt voor de persoonlijke veiligheid van kinderen, werd de functie eindelijk volledig ingezet.
Hill schreef in het artikel dat de dienst meer dan 200 accounts heeft verboden wegens ongepaste zoekopdrachten voor kinderen. Eén ouder vertelde Hill dat ze zelfs foto's van haar kinderen had ontdekt die ze nog nooit eerder had gezien met PimEyes. Om erachter te komen waar de beelden vandaan kwamen, moest de moeder een abonnement van $ 29,99 per maand betalen.
PimEyes is slechts een van de gezichtsherkenningsmotoren ter wereld die momenteel onder de loep worden genomen wegens schending van de privacy. In januari 2020 onthulde Hill's New York Times-onderzoek hoe honderden wetshandhavingsorganisaties zonder veel toezicht een gezichtsherkenningsmotor genaamd Clearview AI gebruikten.
Daly Barnett, een technologie-expert bij de Electronic Frontier Foundation, vertelde vorig jaar aan The Intercept: "Dit is gewoon weer een voorbeeld van een groot algemeen probleem in de technologie, of deze nu surveillancemogelijkheden heeft of niet." Hij bekritiseerde ook het gebrek aan kinderbeschermingsmaatregelen van PimEyes destijds: "[PimEyes] heeft vanaf het begin geen privacybescherming opgebouwd en gebruikers moeten ervoor kiezen dat hun privacy niet in gevaar komt."