Het polariserende effect van sociale netwerken en de algoritmen die gebruikers radicaliseren en manipuleren, zijn de afgelopen week door veel media uitgelicht, waaronder The New York Times en NPR. De aanleiding was het boek van NYT-columnist Max Fischer "The Chaos Machine".

Fisher beschrijft het werk van algoritmen voor sociale netwerken en raakt niet aan de technische aspecten en richt zich op het humanitaire: op het veranderen van het bewustzijn van de samenleving met behulp van inhoud. De auteur verzamelde materiaal toen hij als verslaggever werkte op hotspots, met name in Myanmar en Sri Lanka, en keek hoe de publieke opinie werd gevormd met behulp van stuffing in sociale netwerken. Bovendien hielpen interviews met psychologen om conclusies te trekken uit dit materiaal.

In The Chaos Machine beschuldigt Fisher socialemediabedrijven rechtstreeks van het opzettelijk manipuleren van hun gebruikers. Volgens hem wordt dit gedaan om metrics, indicatoren van betrokkenheid, te managen, maar in de praktijk maakt het mensen verslaafd aan negatieve content.

Het genieten van morele verontwaardiging is een van de belangrijkste gevoelens die volgens Fisher worden uitgebuit door algoritmen die zijn ontwikkeld door Google en Meta* en die hebben ontdekt dat ze die verontwaardiging kunnen verzilveren. Verdeeldheid stimuleert interactie, wat op zijn beurt de advertentie-inkomsten verhoogt.

Simpel gezegd, het beruchte 'kudde-instinct', toewijding aan gemeenschappen is een van de mechanismenselijke overleving. En alle informatie die spreekt van een bedreiging voor de gemeenschap maakt mensen nog meer boos en verenigen zich nog meer.

Zoals Fisher uitlegt, zijn we er zeker van dat we een volledig neutrale weerspiegeling van de gemeenschap zien wanneer we naar sociale media gaan. Maar algoritmen voor sociale media rangschikken berichten zo dat ze bepaalde cognitieve triggers raken die zijn ontworpen om bepaalde emoties op te roepen. Het zijn vooral de berichten met negatieve informatie die spreken over een bedreiging voor onze groepsidentiteit die de aandacht trekken. En geen teksten of video's, maar morele verontwaardiging is waarschijnlijk de krachtigste en meest impactvolle vorm van online content. Omdat deze emoties een beroep doen op ons instinct tot zelfbehoud.

Fisher legt het effect van polarisatie uit en herinnert zich dat het aantal seconden in onze dag nooit verandert. De hoeveelheid sociale media-inhoud die strijdt om die seconden, verdubbelt echter elk jaar. Als ons sociale netwerk 200 berichten per dag publiceert, slagen we erin om er ongeveer 100 te lezen. Dankzij de algoritmen van het platform zien we de meest resonerende helft van onze feed. Volgend jaar, wanneer 200 verdubbelt tot 400, zullen we er maar 100 zien, en dit zullen opnieuw de meest besproken en emotionele berichten zijn. Na verloop van tijd worden onze indrukken van de gemeenschap, zoals Fischer het uitdrukt, 'radicaal meer moraliserend, overdreven en verontwaardigd'.

Fisher realiseert zich dat het onmogelijk is om aanbevelingsalgoritmen voor sociale media uit te schakelen en is van mening dat zelfs het elimineren van de plusteller en reposts de kans op manipulatie van inhoud zal verkleinen.

* Meta Platforms (evenals haar sociale netwerken Facebook en Instagram) wordt erkend als een extremistische organisatie, haar activiteiten zijn verboden in Rusland

bbabo.Net