Onderzoekers hebben kunstmatige intelligentie gebruikt om een manier te creëren om de kwaliteit en beleefdheid van online discussies over polariserende onderwerpen te verbeteren door gebruikers suggesties te geven voor het herformuleren van hun opmerkingen voordat ze deze plaatsen. Ze zeggen dat kunstmatige intelligentie, indien correct gebruikt, kan worden gebruikt om een vriendelijkere en veiligere digitale omgeving te creëren.
Online gesprekken spelen tegenwoordig een centrale rol in de publieke discussie. Maar de commentaarsecties van sociale-mediaplatforms en digitale nieuwskanalen zijn gevuld met discussies die uitmonden in argumenten, bedreigingen en scheldpartijen, vooral wanneer de discussies betrekking hebben op onderwerpen die verdeeldheid zaaien.
Nu hebben onderzoekers van Brigham Young University (BYU) en Duke University kunstmatige intelligentie ontwikkeld die online chats kan modereren, de chatkwaliteit kan verbeteren en beleefdheid kan bevorderen.
Ze rekruteerden 1.574 deelnemers voor een veldexperiment en vroegen hen om deel te nemen aan online discussies over wapenbeheersing in de Verenigde Staten, een kwestie die vaak verdeeldheid zaait in politieke debatten. Elke deelnemer werd gekoppeld aan iemand die tegen het wapenbeleid was.
Na een succesvolle koppeling werden de gesprekspartners willekeurig toegewezen aan de behandelings- of controleconditie en begonnen vervolgens het gesprek. Bij het verwerken van gesprekken ontvangt een deelnemer drie herformuleringssuggesties van GPT-3 voordat hij een bericht verzendt. Deelnemers kunnen ervoor kiezen om een van de drie door de AI voorgestelde alternatieven te verzenden, hun eigen originele bericht te sturen of een bericht te bewerken.
Per gesprek werden gemiddeld 12 berichten verzonden en de AI suggereerde in totaal 2.742 herschreven berichten. Deelnemers accepteerden tweederde van de tijd de voorgestelde woordwijzigingen van de AI. Chatpartners van mensen die een of meer van de herformuleringssuggesties van de AI hebben geïmplementeerd, meldden gesprekken van aanzienlijk hogere kwaliteit en een grotere bereidheid om naar de perspectieven van hun politieke tegenstanders te luisteren.
"We ontdekten dat hoe vaker herformulering werd gebruikt, hoe groter de kans was dat deelnemers het gevoel kregen dat het gesprek niet verdeeldheid zaaide en dat ze zich gehoord en begrepen voelden", zegt David Wingate, een van de co-auteurs van het onderzoek.
De onderzoekers zeggen dat hun bevindingen suggereren dat deze schaalbare oplossing de giftige onlinecultuur zou kunnen bestrijden die het internet verzadigt. Ze zeggen dat dit gemakkelijker te implementeren zou zijn dan professionele trainingen over cyberbeleefdheid, die beperkt zijn qua reikwijdte en beschikbaarheid, omdat AI-interventies breed kunnen worden geïmplementeerd via een verscheidenheid aan digitale kanalen.
De onderzoekers zeggen dat het onderzoek onomstotelijk aantoont dat, indien correct gebruikt, kunstmatige intelligentie een belangrijke rol kan spelen bij het creëren van een positievere online omgeving, waarbij medelevende en respectvolle discussies worden bevorderd.
"Ik hoop dat we meer BYD-studenten in staat zullen blijven stellen om prosociale toepassingen zoals deze te bouwen, en dat BYD een leider kan worden in het demonstreren van ethische manieren om machinaal leren te gebruiken", aldus Wingate. "In een wereld die wordt gedomineerd door informatie, hebben we studenten nodig die de informatie van de wereld op een positieve, sociaal voordelige manier kunnen verwerken."
Het onderzoek is gepubliceerd in de Proceedings of the National Academy of Sciences (PNAS).