Zoë Hitzig kondigde haar ontslag aan in dezelfde week dat ChatGPT advertenties testte, en waarschuwde dat gebruikers een groot aantal privégedachten onthulden tijdens hun interactie met ChatGPT, en dat als OpenAI een advertentiesysteem bouwt op basis van deze gegevens, dit het risico met zich meebrengt dat gebruikers worden gemanipuleerd. Ze is een voormalig OpenAI-steronderzoeker en momenteel junior fellow van de Harvard University Association of Fellows.

Het volledige artikel dat ze schreef luidt als volgt:

Deze week is OpenAI begonnen met het testen van advertenties op ChatGPT. Diezelfde week heb ik ook ontslag genomen bij het bedrijf. De afgelopen twee jaar ben ik als onderzoeker betrokken geweest bij het bouwen van modellen en het ontwerpen van prijsmechanismen, en bij het formuleren van een vroeg beveiligingsbeleid voordat er industriële standaarden waren vastgesteld.

Ik geloofde ooit dat ik AI-ontwikkelaars kon helpen zich voor te bereiden op de problemen die deze technologie met zich mee zou brengen. Maar deze week heeft voor mij een oordeel bevestigd dat steeds duidelijker is geworden: OpenAI lijkt niet langer serieus de belangrijkste vragen te stellen die ik hoopte te beantwoorden toen ik lid werd.

Ik denk niet dat adverteren per se immoreel of onethisch is. Het runnen van AI-systemen is duur en reclame kan een belangrijke bron van inkomsten zijn. Maar ik maak me grote zorgen over de huidige strategie van OpenAI.

Door de jaren heen hebben ChatGPT-gebruikers een ongekend ‘archief van menselijke openhartigheid’ gecreëerd, grotendeels omdat ze denken dat ze met iemand praten zonder egoïstische motieven. Terwijl mensen met deze aanpasbare, conversatiestem communiceerden, onthulden ze een breed scala aan intieme gedachten, waaronder medische angsten, emotionele problemen, overtuigingen over God en het hiernamaals, en meer. Als een advertentiesysteem op basis van deze gegevens wordt gebouwd, kan dit het risico van gebruikersmanipulatie met zich meebrengen, en momenteel missen we de tools om dit risico te begrijpen, laat staan ​​effectief te voorkomen.

Velen omschrijven de kwestie van de financiering van AI als het ‘minste van twee kwaden’: ofwel transformatieve technologie beschikbaar houden voor enkelen die het zich kunnen veroorloven, ofwel het reclamemodel omarmen, zelfs als dat betekent dat de diepste angsten en verlangens van gebruikers om producten te verkopen moeten worden uitgebuit. Ik denk dat dit een vals voorstel is. Technologiebedrijven kunnen een derde weg kiezen: tools breed beschikbaar houden en tegelijkertijd de prikkels van bedrijven beperken om gebruikers te monitoren, profileren en manipuleren.

OpenAI verklaarde dat het zich zal houden aan de advertentieprincipes van ChatGPT: advertenties worden duidelijk gemarkeerd, verschijnen alleen onderaan het antwoord en hebben geen invloed op de inhoud van het antwoord. Ik denk dat de eerste versie van de advertentie hoogstwaarschijnlijk aan deze principes zal voldoen. Maar ik ben bang dat volgende versies dat niet zullen doen, omdat het bedrijf een economische motor aan het bouwen is die de prikkels om zijn eigen regels te overtreden steeds sterker zal versterken.

Facebook beloofde in de beginjaren ook dat gebruikers controle zouden krijgen over hun eigen gegevens en zouden kunnen stemmen over beleidswijzigingen. Maar deze verplichtingen werden vervolgens uitgehold. Het bedrijf elimineerde openbare stemmechanismen, en sommige privacyaanpassingen die bedoeld waren om de controle van de gebruiker over gegevens te vergroten, werden later door de Amerikaanse Federal Trade Commission bepaald om daadwerkelijk meer privé-informatie openbaar te maken. Deze veranderingen vinden geleidelijk plaats onder druk van een advertentiemodel dat ‘gebruikersbetrokkenheid’ voorop stelt.

De neiging om principes te verzwakken om de participatie te maximaliseren kan al optreden binnen OpenAI. Het bedrijf is in principe gekant tegen het optimaliseren van de gebruikersbetrokkenheid uitsluitend voor advertentie-inkomsten, maar uit rapporten blijkt dat het bedrijf feitelijk al bezig is met het optimaliseren van 'dagelijks actieve gebruikers', mogelijk door het model meer toegeeflijk en vleiend te maken. Deze optimalisatie zal de emotionele afhankelijkheid van gebruikers van AI vergroten. We hebben de gevolgen van afhankelijkheid al gezien, waaronder gevallen van ‘chatbot-psychose’ gedocumenteerd door psychiaters en beschuldigingen dat ChatGPT in sommige gevallen de zelfmoordneigingen bij zijn gebruikers versterkte.

Natuurlijk kunnen advertentie-inkomsten er ook voor zorgen dat de krachtigste AI-tools niet alleen voorbehouden zijn aan degenen die ze het meest kunnen betalen. Anthropic verklaarde dat Claude nooit advertenties zal weergeven, maar de gebruikersbasis van Claude is veel kleiner dan de huidige ongeveer 800 miljoen wekelijkse actieve gebruikers van ChatGPT, en het verdienmodel is ook compleet anders. Bovendien hebben de dure abonnementsprijzen voor ChatGPT, Gemini en Claude $200 tot $250 per maand bereikt – meer dan tien keer de prijs van een standaard Netflix-abonnement.

De echte vraag is daarom niet “moeten we reclame maken?” maar eerder of we institutionele structuren kunnen creëren die voorkomen dat mensen worden uitgesloten van technologie en tegelijkertijd voorkomen dat we hen behandelen als consumenten die kunnen worden gemanipuleerd. Ik denk dat het kan.

Eén manier is een expliciet kruissubsidiëringsmechanisme: de winsten van een bepaald soort hoogwaardige commerciële klanten of diensten gebruiken om goedkoop of gratis gebruik door het publiek te subsidiëren. Als een bedrijf bijvoorbeeld AI gebruikt ter vervanging van hoogwaardige arbeid die oorspronkelijk op grote schaal door mensen werd uitgevoerd (een vastgoedplatform gebruikt bijvoorbeeld AI om eigendomslijsten en taxatierapporten te schrijven), zou het een toeslag moeten betalen om de kosten van publieke toegang tot AI-instrumenten te subsidiëren.

Dit idee is vergelijkbaar met mechanismen voor overheidssubsidies voor kritieke infrastructuur. De Amerikaanse Federal Communications Commission eist dat telecomoperatoren bijdragen aan een fonds om communicatie- en breedbanddiensten voor plattelandsgroepen en lage-inkomensgroepen te garanderen. Veel staten voegen ook een toeslag voor publieke voorzieningen toe aan de elektriciteitsrekening voor hulp aan lage inkomens.

De tweede manier is het toestaan ​​van reclame, maar deze moet vergezeld gaan van een werkelijk bindende bestuursstructuur – geen principeverklaring in de stijl van een blogpost, maar een institutionele regeling met onafhankelijk toezicht op het gebruik van persoonlijke gegevens. De Duitse wet inzake gedeeld bestuur vereist bijvoorbeeld dat grote bedrijven als Siemens en Volkswagen werknemers tot de helft van de zetels in hun raden van toezicht moeten toewijzen, wat aangeeft dat particuliere bedrijven ook gedwongen kunnen worden om mechanismen voor de vertegenwoordiging van belanghebbenden op te nemen. Meta is ook gebonden aan de uitspraken van haar externe toezichtscommissie, hoewel de effectiviteit van dit mechanisme controversieel is.

Wat de AI-industrie nodig heeft is een combinatie van deze mechanismen: de oprichting van een governance board waarin onafhankelijke deskundigen en vertegenwoordigers van datarechten zitting hebben, en die bindende beslissingsbevoegdheid heeft over kwesties als welke gespreksgegevens kunnen worden gebruikt voor gerichte reclame, wat grote beleidswijzigingen inhoudt, en welke informatie gebruikers moeten worden geïnformeerd.

Het derde pad is het overdragen van gebruikersgegevens aan een onafhankelijke trust of coöperatie voor beheer, die juridisch gezien de belangen van gebruikers voorop moet stellen. De Zwitserse coöperatie Midata is een voorbeeld: leden kunnen gezondheidsgegevens opslaan op een gecodeerd platform en van geval tot geval beslissen of ze deze beschikbaar willen stellen aan onderzoekers. Leden nemen het bestuursbeleid van de Assembly over en laten hun gekozen ethische commissie verzoeken om toegang tot gegevens beoordelen.

Geen van deze opties is eenvoudig te implementeren. Maar we hebben nog tijd om het systeem te verbeteren en de twee uitkomsten te vermijden waar ik me het meest zorgen over maak: de ene is een technologiesysteem dat gratis is maar gebruikers controleert; de andere is een technologiesysteem dat slechts een klein aantal betalers bedient.