Na de Amerikaanse presidentsverkiezingen van 2024 wendde een groot aantal gebruikers zich tot de gedecentraliseerde sociale media Bluesky vanwege ontevredenheid over de partijdige, beledigende opmerkingen van het X-platform (voorheen Twitter). Bluesky gebruikt geen algoritmen om inhoud aan te bevelen, en heeft in de beginfase wel extreme spraak en verkeerde informatie verminderd. Maar binnen een jaar had het platform nog steeds een echokamereffect.
Onderzoekers van de Universiteit van Amsterdam ontdekten via AI-simulatie-experimenten dat sociale media zelfs zonder complexe algoritmen nog steeds op natuurlijke wijze in gesloten kringen zullen splitsen en een polarisatiefenomeen zullen vormen met alleen basisfuncties zoals posten, doorsturen en volgen. Ze bouwden een vereenvoudigd platform met 500 virtuele gebruikers, stelden gebruikerskenmerken in op basis van gegevens van US National Election Research en gebruikten grote taalmodellen zoals ChatGPT, Llama en DeepSeek om gebruikersgedrag te simuleren. Nadat het experiment 10.000 interactiecycli had geduurd, kwamen er drie grote problemen op het platform naar voren: echokamers, concentratie van invloed en extreme spraak.
De onderzoekers probeerden zes interventies, zoals het tonen van posts in chronologische volgorde of het naar voren brengen van tegengestelde standpunten, maar geen enkele loste het probleem volledig op, en sommige verergerden zelfs de negatieve verschijnselen. Academici van de Universiteit van Washington zijn van mening dat dit resultaat ‘een resonantie weerspiegelt tussen de menselijke natuur en de dynamiek van de aandacht op sociale media’, en dat zelfs als het algoritme wordt verwijderd, de systeemarchitectuur nog steeds giftig kan zijn.
Deskundigen van de Universiteit van Indiana hebben zich afgevraagd of de AI-trainingsgegevens zelf toxiciteit voor sociale media kunnen bevatten, waardoor de experimentele resultaten inherent polariserend zijn. Onderzoekers van de New York University zijn van mening dat, hoewel er geen eenvoudige oplossing bestaat, gebruikers die meer neutrale inhoud plaatsen, de polarisatie kunnen helpen verminderen.
Deze studie onthult het onderliggende mechanisme van de polarisatie op sociale media en laat zien dat het moeilijk is om het probleem uit te roeien door middel van technische aanpassingen alleen en dat er een combinatie van meerpartijenstrategieën nodig is om dit aan te pakken.