De Google Jigsaw-divisie heeft Harassment Manager ontwikkeld, een tool voor het filteren van negatieve inhoud op sociale netwerken. De tool is gericht op journalisten en andere publieke figuren en gebruikt de Jigsaw Perspective bbabo.netI om mogelijk aanstootgevende opmerkingen op te lossen. Google heeft de code voor de tool gepubliceerd en in juni zal een daarop gebaseerde applicatie worden uitgebracht.

Met de Twitter Harassment Manager kun je antwoorden verbergen en accounts blokkeren nadat je tweets hebt gecontroleerd op bedreigingen, beledigingen en godslastering. De tool sorteert berichten in een dashboard waar gebruikers ze in batches kunnen verwerken in plaats van afzonderlijk met behulp van standaard moderatietools. Intimidatie Manager biedt ook de mogelijkheid om beledigende posts en berichten te melden aan de werkgever of, in het geval van illegale inhoud zoals directe bedreigingen, aan de politie.

Jigsaw kondigde de release aan van Harassment Manager op Internationale Vrouwendag en noemde de tool bijzonder relevant voor vrouwelijke journalisten die te maken krijgendergerelateerde intimidatie. Het team hoopt dat de ontwikkelaars het kunnen aanpassen voor andere risicovolle gebruikers van sociale media, waaronder activisten, politici en andere publieke figuren.

Google heeft Perspective al gebruikt voor automatische moderatie. In 2019 bracht het bedrijf een browserextensie uit genaamd Tune waarmee je zogenaamd giftige berichten kunt verbergen. De extensie is door veel platforms gebruikt, waaronder Vox Media's Coral, naast menselijke moderatie.

In tegenstelling tot Tune is Harassment Manager geen moderatietool. Dit is een sorteertool die je helpt om sneller en efficiënter te werken met een groot aantal social media posts en antwoorden.

bbabo.Net