САН-ФРАНЦИСКО: Взрывной рост Clubhouse, социальной сети на основе аудио, поддерживаемой выступлениями таких знаменитостей, как Илон Маск и Марк Цукерберг, привлек внимание к тому, как приложение будет обрабатывать проблемный контент, от высказываний ненависти до преследований и дезинформации.

Модерирование обсуждений в режиме реального времени является проблемой для целого ряда платформ, использующих голосовой чат в реальном времени, от сервисов, ориентированных на видеоигры, таких как Discord, до новой функции Live Audio Spaces в Twitter Inc. Сообщается, что Facebook также балуется предложением.

«Аудио представляет собой принципиально иной набор проблем для модерации, чем текстовое общение. Это более эфемерно, и в нем сложнее исследовать и действовать », - сказал в интервью главный юрист Discord Клинт Смит.

Инструменты для обнаружения проблемного аудиоконтента отстают от инструментов, используемых для идентификации текста, а расшифровка и проверка записанных голосовых чатов - более трудоемкий процесс для людей и машин. Отсутствие дополнительных подсказок, таких как визуальные сигналы видео или сопровождающие текстовые комментарии, также может усложнить задачу.

«Большая часть того, что у вас есть с точки зрения инструментов модерации контента, на самом деле построено на тексте», - сказал Дэниел Келли, заместитель директора Центра технологий и общества Антидиффамационной лиги.

Не все компании делают или хранят голосовые записи для расследования сообщений о нарушениях правил. В то время как Twitter хранит звук Spaces в течение 30 дней или дольше в случае инцидента, Clubhouse заявляет, что удаляет свою запись, если сеанс в реальном времени заканчивается без немедленного отчета пользователя, а Discord не записывает вообще.

Вместо этого Discord, который столкнулся с давлением, чтобы обуздать токсичный контент, такой как оскорбления и материалы о превосходстве белой расы в текстовых и голосовых чатах, предоставляет пользователям элементы управления для отключения звука или блокировки людей и полагается на них, чтобы пометить проблемный звук.

Такие модели сообщества могут расширять возможности пользователей, но ими легко злоупотреблять и вызывать предубеждения.

Clubhouse, в котором аналогично введены пользовательские элементы управления, внимательно изучил вопрос о том, могут ли такие действия, как блокировка, которые могут препятствовать присоединению пользователей к определенным комнатам, использоваться для преследования или исключения пользователей.

Проблемы модерирования живого звука противопоставляются более широкой глобальной битве за модерацию контента в крупных социальных сетях, которые критикуют за их силу и непрозрачность и вызывают жалобы как справа, так и слева как слишком ограничительные или опасно разрешающие.

Онлайн-платформы также давно борются с ограничением вредоносного или графического живого контента на своих сайтах. В 2020 году прямая трансляция самоубийства на Facebook Inc разошлась по нескольким сайтам. В 2019 году стрельба в немецкой синагоге транслировалась в прямом эфире на игровом сайте Twitch, принадлежащем Amazon Inc.

«Очень важно, чтобы эти сервисы извлекли уроки из развертывания потокового видео, чтобы понимать, что они столкнутся со всеми однотипными вопросами», - сказала Эмма Ллансо, член Консультативного совета по безопасности Twitch. Она добавила: «Что происходит, когда люди хотят использовать ваш сервис для прямой трансляции аудиозаписи встречи с полицией или насильственного нападения?»

«До бесконечности»

В прошлое воскресенье во время публичной ратуши компании соучредитель Clubhouse Пол Дэвисон представил видение того, как приложение, доступное только по приглашению, будет играть более важную роль в жизни людей, проводя все, от политических митингов до общих собраний компании.

Залы, в которых в настоящее время могут находиться 8000 человек, будут масштабироваться «до бесконечности», и участники смогут зарабатывать деньги на «чаевых», выплачиваемых аудиторией.

Согласно источнику, знакомому с ситуацией, в результате последнего раунда финансирования компании из Сан-Франциско в январе она оценивалась в 1 миллиард долларов США (4 миллиарда ринггитов). Финансированием руководила Andreessen Horowitz, ведущая венчурная компания Кремниевой долины.

На вопрос, как Clubhouse работает над обнаружением опасного контента по мере расширения сервиса, Дэвисон сказал, что крошечный стартап пополняет свою команду доверия и безопасности, чтобы решать проблемы на нескольких языках и быстро расследовать инциденты.

Приложение, которое, как сообщается, имеет 10 миллионов активных пользователей в неделю, имеет штатный персонал, численность которого только недавно исчислялась двузначными числами. Пресс-секретарь сообщила, что для модерации контента используются как штатные рецензенты, так и сторонние сервисы, и были привлечены консультанты для решения этой проблемы, но не стали комментировать методы проверки или обнаружения.

За год с момента своего основания Clubhouse столкнулся с критикой из-за сообщений о женоненавистничестве, антисемитизме и дезинформации о Covid-19 на платформе, несмотря на правила, запрещающие расизм, язык вражды, оскорбления и ложную информацию.

Clubhouse заявила, что инвестирует в инструменты для обнаружения и предотвращения злоупотреблений, а также в функции для пользователей, которые могут устанавливать правила для своих комнат для модерации разговоров.

Twitter, который долгое время подвергался критике за свою способность обуздать злоупотребления, в настоящее время тестирует Spaces с 1000 пользователей, которые начинали с женщин и людей из маргинализированных групп.

Хостам предоставлены элементы управления для модерации, и пользователи могут сообщать о проблемах. Но Twitter также рассматривает возможность инвестирования в «упреждающее обнаружение» - например, включение аудио транскриптов в инструменты, которые Twitter в настоящее время использует для обнаружения проблемных твитов без пометки пользователями, сказал Эндрю МакДиармид из группы по доверию продуктов Twitter.

МакДиармид сказал, что Twitter все еще решает, как перенести существующие правила, такие как маркировка дезинформации, которая также применяется к новой услуге, на звуковую арену.

Пока Twitter не разработает свой план модерации, людям, которые недавно нарушили правила сайта, не будет разрешен доступ к новой функции.

* У вас есть доступ к электронной бумаге и эксклюзивным новостям в Интернете? Ознакомьтесь с планами подписки

bbabo.Net