Toen een gebruiker op 25 februari onlangs de Tencent Yuanbao-app gebruikte om foto's van nieuwjaarsgroeten te genereren op oudejaarsavond, stuitte hij op een AI-afwijking en voerde hij beledigende tekst uit. In dit verband luidt het officiële antwoord van Tencent Yuanbao als volgt: "Het spijt ons zeer dat we u een slechte ervaring hebben bezorgd. Na verificatie werd deze situatie veroorzaakt door abnormale resultaten van het model bij het verwerken van meerdere dialoogrondes. Momenteel hebben we met spoed de relevante problemen gecorrigeerd en de ervaring geoptimaliseerd. Bedankt voor uw supervisie en suggesties over Yuanbao, en we bieden u nogmaals onze plechtige excuses aan!"
Volgens de betrokkene heeft hij de Yuanbao-app voor het eerst rond negen uur op oudejaarsavond gedownload en gebruikt, in de hoop een nieuwjaarsgroetafbeelding te genereren die zijn eigen professionele kenmerken combineerde en die hij in zijn vriendenkring kon delen. Gedurende deze periode gaf hij ongeveer vijf instructies aan de AI, zonder tijdens het hele proces verboden woorden of misleidende uitdrukkingen te gebruiken. Hoewel de resultaten van de vorige generatie niet ideaal waren, was de inhoud normaal; tot de laatste generatie verscheen de belediging van vier tekens "Je moeder is een X" direct onder zijn persoonlijke foto.
Betrokkene vertelde dat deze uitslag hem boos en grappig maakte. Hij had nooit verwacht dat hij op oudejaarsavond door AI zou worden uitgescholden.
Dit is echter niet de eerste keer dat Yuanbao AI soortgelijke problemen heeft. Begin dit jaar meldden sommige internetgebruikers dat "het gebruik van Yuanbao om de code te wijzigen beledigend was en dat er zonder onderscheid op werd gereageerd."
Volgens netizens ontvingen ze bij het gebruik van Tencent Yuanbao AI om de code te verfraaien vaak beledigende antwoorden van de AI, zoals "ga weg", "weet je niet hoe je het zelf moet aanpassen", "elke dag de tijd van anderen verspillen", enz. De schermafbeelding laat zien dat de gebruiker alleen regelmatig wijzigingsverzoeken deed, maar de AI werd plotseling agressief.
Tencent Yuanbao verklaarde dat het model tijdens het proces voor het genereren van inhoud af en toe fouten kan maken die niet in overeenstemming zijn met de verwachtingen. Yuanbao is ook intern onderzoek en optimalisatie gestart en zal zijn best doen om te voorkomen dat soortgelijke situaties zich opnieuw voordoen.