Meta beëindigde onlangs stilletjes de samenwerking met outsourcingbedrijf Sama, nadat het bedrijf de opdracht kreeg om beeldgegevens te gebruiken die zijn verzameld door de slimme bril van Ray-Ban om trainingsmateriaal te leveren voor Meta’s generatieve AI-systeem. Vervolgens kondigde Sama het ontslag aan van 1.108 werknemers, van wie sommigen zeiden dat ze waren ontslagen als "vergelding" nadat ze aan de media hadden bekendgemaakt dat de video's die ze beoordeelden een grote hoeveelheid zeer privé-inhoud bevatten.
Het incident kwam voor het eerst aan het licht in februari van dit jaar. Sama-werknemers in Nairobi, Kenia, vertelden twee Zweedse kranten dat hun werk onder meer bestond uit het labelen van video's van slimme brillen, vaak zonder dat de mensen op de beelden wisten dat ze werden gefilmd. Deze slimme bril van Ray-Ban heeft een ingebouwde AI-assistent en moet voortdurend audio en video opnemen, waarvan een deel zal worden gebruikt als AI-trainingsgegevens, waarna menselijke annotators inhoud zullen aanvullen en verbeteren die voor AI moeilijk te begrijpen is.
Meta verklaarde dat de servicevoorwaarden aan gebruikers hebben uitgelegd hoe de relevante gegevens zullen worden gebruikt, en dat de bril expliciete toestemming van de gebruiker moet verkrijgen voordat de AI-modus wordt ingeschakeld. Meerdere medewerkers van Sama zeiden echter dat de beelden waarmee ze in contact kwamen niet alleen financiële informatie bevatten, zoals bankrekeningen en privégesprekken, maar ook naaktbeelden in de badkamer en scènes van intiem gedrag, die duidelijk de cognitieve grenzen van het publiek voor routinematige gegevensverzameling overschreden.
Nadat de onderzoekende mediaberichten waren vrijgegeven, kondigde Meta aan dat het zijn contract met Sama zou opzeggen, omdat het bedrijf "niet voldeed aan de normen van Meta". Sama antwoordde onmiddellijk dat het nooit formele feedback had ontvangen dat de kwaliteit van zijn werk 'ondermaats' was. Tegelijkertijd onthulden sommige werknemers dat het bedrijf, in de context van verbeterde veiligheidsmaatregelen, ervoor zorgde dat ze konden ‘werken’ zonder dat ze iets te doen hadden, en dat het bedrijf ervan verdacht werd interne onderzoeken te gebruiken om zich te richten op ‘klokkenluiders’ die het nieuws aan de media vertelden.
Dit is niet de eerste keer dat Sama betrokken is bij AI-gerelateerde arbeids- en ethische controverses. Dit in Californië gevestigde outsourcingbedrijf kreeg van OpenAI de opdracht om trainingsdiensten te leveren voor ChatGPT, dat officieel gelanceerd zal worden in 2022. Om de schadelijke inhoud van chatbots te verminderen, zorgde Sama ervoor dat Keniaanse werknemers extreem impactvolle tekst- en beeldinhoud lange tijd konden bekijken en filteren voor minder dan $ 2 per dag. Het gerelateerde werk bleek duidelijke schade toe te brengen aan de geestelijke gezondheid van werknemers. Datzelfde jaar werden Meta en Sama ook beschuldigd van het rekruteren van werknemers via misleidende vacatures, het vormen van verkapte mensenhandel en het ontslaan van werknemers die probeerden een vakbond op te richten.
Naast arbeidsrechtenkwesties heeft dit incident opnieuw de privacyrisico’s van slimme brillen op de voorgrond gebracht. Al in het tijdperk van Google Glass werden de opnamemogelijkheden ervan sterk tegengewerkt door de publieke opinie vanwege de mogelijkheid van "onzichtbare surveillance" in openbare ruimtes. Nu Meta de categorie opnieuw heeft gelanceerd met producten die rustiger zijn en het uiterlijk van een gewone bril benaderen, zijn sommige gebruikers gefotografeerd terwijl ze ze droegen tijdens gerechtelijke procedures, sommige hebben opnames mogelijk gemaakt tijdens politieoperaties, en er is ontdekt dat studenten een slimme bril gebruiken om te spieken tijdens examens.
Terwijl draagbare apparaten steeds populairder worden, versnellen ook andere technologiegiganten hun implementatie. Volgens rapporten test Apple momenteel maar liefst vier slimme brilontwerpen, met als doel in de toekomst frontaal te kunnen concurreren met Meta's Ray-Ban-producten. Met de trend van diepe integratie van AI en sensorapparatuur wordt het vinden van een evenwicht tussen innovatieve ervaringen, persoonlijke privacy en arbeidsrechten een kernprobleem dat de technologie-industrie niet kan vermijden.