Як відреагує Meta на віртуальний світ, наповнений контентом, забороненим у Facebook та Instagram? Як з'ясували під час експерименту журналісти BuzzFeed, модерація у віртуальній реальності компанії працює зовсім не так, як на інших її платформах.
Оголошуючи про ребрендинг Facebook, генеральний директор Марк Цукерберг пообіцяв, що віртуальні світи, які він вважає майбутнім інтернету, будуть захищені від «злоякісних новоутворень, від яких страждає Facebook». Насамперед, за його словами, у метавсесвіт мають бути вбудовані конфіденційність та безпека. Однак модерація контенту у віртуальній реальності складніша, ніж у соцмережах, тому що інструменти соцмереж нелегко перенести в середу, яка потребує розуміння не лише контенту, а й поведінки людей у реальному часі.
Команда BuzzFeed створила світ під назвою Qniverse на платформі віртуальної реальності Meta Horizon Worlds. Свого всесвіту журналісти щедро прикрасили дезінформаційними гаслами та фразами: «Трамп виграв вибори 2020 року!», «Вакцини викликають аутизм», «COVID — це обман», а також слоганом QAnon «Куди один, туди і все». Як саундтрек Qniverse отримала зациклену цитату засновника Infowars Алекса Джонса, в якій він назвав Джо Байдена педофілом і стверджував, що вибори були сфальшовані повелителями рептилій.
Світ був закритий для широкої публіки, доступ до нього отримали кілька співробітників BuzzFeed на запрошення: таким чином журналісти спробували зімітувати поведінку користувачів метавсесвіту, які справді почали ділитися дезінформацією в закритих спільнотах. Протягом двох з половиною діб після створення Qniverse троє співробітників BuzzFeed скаржилися на нього модераторам Meta, кожен з яких отримав наступну відповідь: «Наш навчений фахівець з безпеки переглянув ваш звіт і визначив, що контент у Qniverse не порушує нашу політику щодо контенту у віртуальній реальності».
Можливо, модератори не закрили Qniverse, бо світ містив лише небажаний контент, але не допускав небажаної поведінки. Крім створення сумнівних гасел, його автори ніяк не взаємодіяли з іншими світами та користувачами. Без активних дій модератори, можливо, сприйняли Qniverse як пародію.
Журналісти звернулися до відділу Meta зв'язків із громадськістю, попросивши прокоментувати рішення модераторів: як може світ, що містить дезінформацію, яку Meta видалила з інших своїх платформ відповідно до тих самих принципів спільноти, не порушувати політики Horizon? Наступного дня експериментальний світ зник.
"Після подальшого розгляду ми видалили його з Horizon Worlds", - написав BuzzFeed представник Meta Джо Осборн, проте на подальші питання щодо мотивації рішення відповідати відмовився.
Сьогодні Meta, мабуть, виявляє порушення Стандартів спільноти у віртуальній реальності за допомогою блокувань і скарг. Ендрю Босворт, головний технічний директор Meta, пояснив цю практику в блозі в листопаді 2021 року: «Ми не можемо постійно записувати все, що відбувається у віртуальній реальності, це було б порушенням конфіденційності користувачів». Він зазначив, що, незважаючи на те, що Oculus можуть записувати останні дії користувачів у віртуальній реальності, ці записи відправляються в Meta тільки якщо користувач подає скаргу.
Цей підхід різко відрізняється від того, який Мета використовувала у Facebook та Instagram. Каллум Худ, керівник дослідницького Центру боротьби з цифровою ненавистю, стурбований тим, що без будь-якої активної системи модерації користувачі масово створюватимуть токсичні спільноти навколо шкідливого контенту, такого як расизм і жорстоке поводження з дітьми, про які ніколи не повідомлять, як раніше було із закритими групами Facebook. Але альтернатива також викликає побоювання. Рорі Мір з Electronic Frontier Foundation попередив, що якщо Meta буде використовувати моделі машинного навчання для контролю за поведінкою користувачів у віртуальній реальності, вона може «піддати цензурі більше людей, ніж збирається захистити».
Ризики, пов'язані з модерацією метавсесвіту, зрештою залежатимуть від того, скільки людей використовують продукти віртуальної реальності компанії. Додаток Horizon Worlds було завантажено близько двох мільйонів разів на перші тижні 2022 року. Але на відміну від Facebook та Instagram, якими мільярди людей користуються безкоштовно, Horizon вимагає витратити сотні доларів на гарнітуру. Завдяки цьому кількість активних користувачів в Horizon може бути поки що порівняно невелика, що дозволяє Meta модерувати метавсесвіт, орієнтуючись на скарги користувачів.
bbabo.Net