Een startend bedrijf genaamd Memvid publiceerde onlangs een controversieel wervingsbericht, waarin openlijk een ‘professionele AI-pestkop’ werd gerekruteerd om de reguliere chatbots de hele dag door te ‘martelen’, met een salaris van maximaal $ 800, wat leidde tot discussie onder de buitenwereld of de motivatie ervan een serieuze technische test is of een zorgvuldig ontworpen marketingstunt.
Memvid verklaarde dat het kerndoel van deze rekrutering is om het "geheugendefect" -probleem dat veel voorkomt bij de huidige grote modellen en chatbots, volledig aan het publiek bloot te leggen. Het bedrijf is van mening dat hoewel grote taalmodellen goed presteren bij het simuleren van ‘betekenisvolle intelligente gesprekken’, het in wezen nog steeds misleidende softwareproducten zijn met zeer beperkte geheugenmogelijkheden en vaak ‘vergeten’ wat de gebruiker zojuist in dezelfde gespreksronde heeft gezegd, waardoor gebruikers informatie herhaaldelijk moeten herhalen.
Volgens de vacaturepagina wordt deze eendaagse baan per uur betaald tegen $100 per uur, met een totaal inkomen van $800, en staat deze open voor externe werknemers over de hele wereld. Rekruten zullen op een bijna ‘agressieve’ manier en met hoge intensiteit communiceren met een aantal reguliere AI-chatbots, waarbij ze voortdurend verschillende informatie moeten onthouden. Tijdens het proces registreert het systeem situaties zoals mislukte gesprekken, vergeten context en inconsistenties. Naast dat de kandidaten zelf gedetailleerde aantekeningen maken, zal Memvid het hele experiment ook opnemen via schermopname of camera voor latere analyse.
Interessant genoeg vereist deze baan niet dat kandidaten een technische achtergrond op het gebied van AI of ‘pestenervaring’ hebben, maar het staat duidelijk in de voorwaarden: Sollicitanten moeten een gedetailleerde persoonlijke verklaring indienen waarin ze hun negatieve ervaringen uit het verleden bij het gebruik van technologieproducten uitleggen, en moeten een duidelijke en sterke ontevredenheid hebben over de huidige AI-technologie. Mohamed Omar, medeoprichter en CEO van het bedrijf, verklaarde dat ze “iemand wilden vinden die AI echt haat” om de taak te voltooien.
Omar wees er in een interview op dat de ernstige geheugenproblemen waarmee chatbots tegenwoordig worden geconfronteerd nauw verband houden met de ‘onbetrouwbaarheid’ van AI-geheugenoplossingen van de eerste generatie. Volgens hem is het voortdurend kunnen behouden van gebruikersinformatie en het behouden van contextuele samenhang in lange gesprekken de heilige graal van "een echt nuttige chatbot". Het zogenaamde ‘hallucinatie’-fenomeen is grotendeels een direct gevolg van slechte geheugenmechanismen en gebruiksgewoonten van grote modellen.
Memvid maakt van deze gelegenheid gebruik om zijn zelfontwikkelde AI-geheugenlaagoplossing te promoten. Het bedrijf beweert dat dit een op bestanden gebaseerde, zichzelf verbeterende geheugencomponent is die persistente context kan bieden in gesprekken voor grote modellen en chatbots, waardoor de responsnauwkeurigheid wordt verbeterd, de latentie wordt verminderd en het gebruik van de infrastructuur wordt verbeterd zonder dat dit ten koste gaat van de prestaties. Deze geheugenlaag kan worden gebruikt als de kerncapaciteit van Memvid’s eigen chatbotproduct Kora, of kan worden geïntegreerd in andere AI-producten in de vorm van ontwikkelaarstools.
Naarmate grote modellen op grote schaal worden ingezet in echte toepassingsscenario's, wordt het probleem van AI-geheugen steeds prominenter: in het licht van enorme datawarehouses en complexe zakelijke vereisten ervaren chatbots vaak 'fragmenten', waarbij ze gebeurtenissen uit het verleden vergeten en zelfs willekeurige dingen verzinnen tijdens langdurige en multi-ronde interacties, en de gebruikerservaring wordt voortdurend beschadigd. In deze context is de rekrutering van “AI-pesten” van Memvid zowel een creatieve advertentie voor zijn eigen producten als een wake-up call om de huidige status van de industrie te herhalen, en herinnert het publiek eraan dat de huidige AI nog lang niet een “werkelijk betrouwbare gesprekspartner” is.
De werving voor de functie zal enkele weken duren en er zal slechts één kandidaat worden geselecteerd, aldus Memvid. Het bedrijf hoopt voldoende negatieve gevallen binnen te halen door deze intensieve ‘marteling’ van reguliere chatbots, die niet alleen displaymateriaal voor zijn eigen producten zullen opleveren, maar ook een levendig startpunt zullen bieden voor sociale discussies over de veiligheid en betrouwbaarheid van AI.