Waarom lijken zoveel bedrijven die afhankelijk zijn van gebruikersgegevens om geld te verdienen een zwak te hebben voor kunstmatige intelligentie? Als je het Signal-president Meredith Whitaker vraagt, zal ze je vertellen dat dit simpelweg komt omdat ‘kunstmatige intelligentie een surveillancetechnologie is’.

Op het podium van TechCrunchDisrupt2023 legde Whittaker haar visie uit dat AI grotendeels onlosmakelijk verbonden is met de big data en zich richt op de industrie die al lang bestaat bij bedrijven als Google en Meta, minder consumentgerichte maar even prominente ondernemings- en defensiebedrijven.

"Het vereist surveillance-bedrijfsmodellen; het is een intensivering van de groei in surveillance-reclame die we sinds eind jaren negentig hebben gezien. Ik denk dat AI een manier is om surveillance-bedrijfsmodellen te consolideren en uit te breiden", zei ze. "Een Venn-diagram is een cirkel. Het gebruik van kunstmatige intelligentie is ook een vorm van surveillance, toch? Je loopt langs een gezichtsherkenningscamera met een pseudowetenschappelijk emotieherkenningsinstrument erop en die genereert gegevens over jou die, terecht of onterecht, zeggen: 'je bent blij, je bent verdrietig, je hebt een slechte persoonlijkheid, je bent een leugenaar, enzovoort.' Dit zijn uiteindelijk surveillancesystemen die op de markt worden gebracht aan degenen die macht over ons hebben: onze werkgevers, overheden, grenscontroles, enz., om oordelen en voorspellingen te doen die onze toegang tot middelen en kansen bepalen.

Ironisch genoeg, zo wijst ze erop, worden de gegevens die ten grondslag liggen aan deze systemen vaak georganiseerd en geannoteerd door juist de werknemers op wie die gegevens kunnen worden gericht (een noodzakelijke stap in het proces van het samenstellen van AI-datasets).

"Op het niveau van het informeren van de fundamentele waarheid over de gegevens is er geen manier om deze systemen te maken zonder menselijke arbeid - het leren versterken met menselijke feedback, wat wederom slechts een technologie is die onstabiele menselijke arbeid zuivert", legde ze uit. "Duizenden werknemers worden slecht betaald, maar over het algemeen zijn de kosten hoog, en er is geen andere manier om deze systemen te creëren, absoluut geen andere manier. In zekere zin zien we een fenomeen van de Wizard of Oz, waarbij, als we het gordijn opzij trekken, er niet echt zoveel intelligentie is."

Niet alle AI- en machine learning-systemen zijn echter even uitbuitend. Op de vraag of Signal AI-tools of -processen gebruikt in zijn app of ontwikkelingswerk, bevestigde ze dat de app een "mockup voor een klein apparaat heeft, maar die hebben we niet ontwikkeld. We hebben deze kant-en-klaar gebruikt als onderdeel van de gezichtsvervagingsfunctie in onze mediabewerkingstoolset. Het is eigenlijk niet zo goed... maar het kan helpen bij het detecteren van gezichten in foto's van mensenmassa's en deze vervagen, zodat wanneer je die foto's deelt op sociale media, je de persoonlijke biometrische gegevens van mensen niet openbaar maakt aan Clearview en dergelijke."

"Maar het punt is... ja, het is een geweldig gebruik van kunstmatige intelligentie, en stelt het ons niet in staat om alle negativiteit die ik op het podium naar buiten gooi, tegen te gaan?" voegde ze eraan toe. "Natuurlijk, als dit de enige markt voor gezichtsherkenning is... maar laten we duidelijk zijn. Het proces van het ontwikkelen en inzetten van gezichtsherkenningstechnologie is duur, en de economische prikkels zullen dit nooit tot het enige gebruik maken."