Bbabo NET

Наука & Технологии Новости

Дезинформация уже добралась до метавселенной

После неудобной демонстрации своего творения разработчики Дэвида из Sensorium заявили, что планируют добавить фильтры, чтобы ограничить то, что он может говорить о деликатных темах. Но этот момент продемонстрировал, насколько легко людям может быть встретиться оскорбительный или вводящий в заблуждение контент в метавселенной - и насколько сложно будет его контролировать.

В последние месяцы крайне мрачная репутация технологических компаний в области контроля за оскорбительным контентом стала предметом новой проверки после того, как бывший менеджер по продукту Facebook Фрэнсис Хауген опубликовала кеш-память тысяч внутренних документов Meta для регулирующих органов США. Документы, которые были предоставлены Конгрессу и получены новостными организациями в отредактированном виде, раскрыли новые подробности о том, как алгоритмы Меты распространяют вредоносную информацию, такую ​​как теории заговора, ненавистные выражения и насилие, и привели к десяткам критических статей Wall Street Journal и консорциум новостных организаций. Эти отчеты, естественно, вызвали вопросы о том, как Мета и другие намерены патрулировать развивающийся виртуальный мир на предмет оскорбительного поведения и вводящих в заблуждение материалов.

«Несмотря на изменение названия, Meta по-прежнему позволяет распространителям опасной дезинформации процветать в своих существующих приложениях, - сказал Алекс Кадье, управляющий директор NewsGuard в Великобритании. - Если компания не сможет эффективно бороться с дезинформацией на более простых платформах, таких как Facebook и Instagram, кажется маловероятным, что они смогут сделать это в гораздо более сложной метавселенной ».

Руководители Meta не остались в стороне от критики. Создавая шумиху вокруг метавселенной, они пообещали учитывать конфиденциальность и благополучие своих пользователей при разработке платформы. Компания также утверждает, что эти виртуальные миры нового поколения не будут принадлежать исключительно Meta, а будут созданы группой инженеров, создателей и технологических компаний, чьи среды и продукты работают вместе.

По словам руководителей, эти новаторы и регулирующие органы по всему миру могут начать обсуждать политику, которая будет поддерживать безопасность метавселенной, даже до того, как базовая технология будет полностью разработана.

«В прошлом скорость, с которой появлялись новые технологии, иногда заставляла политиков и регулирующих органов догонять», - сказал Ник Клегг, вице-президент по глобальным вопросам, в октябре на ежегодной конференции Meta Connect. «На этот раз этого не должно быть, потому что у нас есть годы до того, как метавселенная, которую мы представляем, будет полностью реализована».

Meta также заявляет, что планирует работать с правозащитными группами и правительственными экспертами над ответственным развитием виртуального мира и инвестирует с этой целью 50 миллионов долларов.

Для его проповедников виртуальная и дополненная реальность откроют возможность познать мир способами, которые ранее существовали только в мечтах научно-фантастических романистов. Компании смогут проводить собрания в цифровых залах заседаний, где сотрудники, находящиеся в разных местах, могут чувствовать себя так, как будто они действительно вместе в одном месте. Друзья будут выбирать себе аватарки и вместе телепортироваться на концерты, занятия и 3D-видеоигры. Художники смогут проводить творческие мероприятия, адаптированные к географическим местам, в дополненной реальности для любого владельца устройства. Предприниматели создадут виртуальные магазины, где можно будет покупать цифровые и физические товары.

Но цифровые сторожевые псы говорят, что те же качества, которые делают метавселенную дразнящей инновацией, также могут еще шире открыть дверь для вредоносного контента. Реалистичное ощущение опыта, основанного на виртуальной реальности, может стать опасным оружием в руках злоумышленников, стремящихся разжечь ненависть, насилие и терроризм.«Документы Facebook показали, что платформа может функционировать почти как система« под ключ »для вербовщиков-экстремистов, а метавселенная упростит совершение этого насилия», - сказала Карен Корнблу, директор Инициативы по цифровым инновациям и демократии Немецкого фонда Маршалла и бывший посол США в Организации экономического сотрудничества и развития.

Хотя далеко идущая взаимосвязанная метавселенная все еще остается теоретической, существующие виртуальные и игровые платформы позволяют увидеть, какие виды проблемного контента могут там процветать.

Документы Facebook показали, что у компании уже есть доказательства того, что оскорбительный контент, скорее всего, переместится из социального в виртуальный. В одном примере сотрудник Facebook описывает, как испытал приступ расизма во время игры в виртуальную реальность Rec Room на гарнитуре Oculus Quest.

После входа в один из самых популярных виртуальных миров в игре, сотрудника приветствовали «непрерывным пением:« N ***** N ***** N ***** »». Согласно документам, сотрудник написал на внутреннем дискуссионном форуме, что он или она пытался выяснить, кто кричал и как на них пожаловаться, но не смог. Rec Room заявила, что предоставляет несколько элементов управления для идентификации говорящих, даже когда этот человек не виден, и в этом случае он заблокировал учетную запись нарушившего пользователя.

«В конце концов я сдался и покинул мир, чувствуя себя побежденным», - написал сотрудник, имя которого было отредактировано в документах.

Злоупотребления уже затронули и другие VR-продукты. Люди на VRChat, платформе, где пользователи могут исследовать миры, одетые в разные аватары, описывают почти преобразующий опыт, когда они создали виртуальное сообщество, не имеющее аналогов в реальном мире. В ветке Reddit о VRChat они также описывают почти невыносимое количество расизма, гомофобии, трансфобии - и «не забывайте о тупых нацистах», как написал один пользователь VRChat. Игроки нередко ходят, повторяя N-слово, в то время как на некоторые виртуальные миры нападают аватары Гитлера и KKK.

VRChat писал в 2018 году, что он работает над уменьшением «процента пользователей, которые предпочитают вести себя неуважительно или вредно» с помощью команды модераторов, которая «постоянно отслеживает VRChat». Но спустя годы игроки по-прежнему сообщают о вредоносных пользователях и говорят, что «по-видимому, ничего не делается». Другие пытаются отключить или заблокировать голоса или аватары проблемных пользователей, но частота злоупотреблений может быть огромной.

Люди также описывают расизм в популярных видеоиграх, таких как Second Life и Fortnite; некоторые женщины рассказывали о сексуальных домогательствах или нападениях на платформах виртуальной реальности; и родители выразили обеспокоенность по поводу того, что их детей воспитывают на, казалось бы, безобидной игровой платформе для детей Roblox.

Степень, в которой метавселенная останется безопасным пространством, будет частично зависеть от того, как компании обучают свои системы искусственного интеллекта модерированию платформ, сказал Андреа-Эмилио Риццоли, директор швейцарского института искусственного интеллекта Далле Молле. ИИ можно обучить обнаруживать и устранять разжигание ненависти и дезинформацию, а системы также могут непреднамеренно усиливать их.

Уровень проблемного контента в метавселенной также будет зависеть от того, проектируют ли технологические компании цифровую среду так, чтобы она функционировала как небольшие частные группы только по приглашениям или широко открытые общественные площади. Информатор Хауген открыто критиковал планы метавселенной Facebook, но недавно сказал европейским законодателям, что язык вражды и дезинформация в виртуальных мирах могут не распространяться так далеко и не так быстро, как в социальных сетях, потому что большинство людей будут взаимодействовать в небольшом количестве.

Но также вполне вероятно, что Meta интегрирует свои текущие сети, включая Facebook, Instagram и WhatsApp, в метавселенную, сказал Брент Миттельштадт, научный сотрудник по этике данных из Оксфордского института Интернета.

«Если они сохранят те же инструменты, которые способствовали распространению дезинформации на их текущих платформах, трудно сказать, что метавселенная поможет», - сказал Миттельштадт, который также является членом группы по этике данных в Институте Алана Тьюринга. Риццоли добавила, что с учетом того, что дезинформация и язык вражды могут возникать во время частных взаимодействий в метавселенной, платформы столкнутся с теми же дебатами по поводу свободы слова и цензуры при принятии решения об удалении вредоносного контента. Хотят ли платформы, чтобы виртуальные существа приближались к людям и говорили им, что их разговор не основан на фактах, или вообще мешали им разговаривать? «Это спорный вопрос, - сказала Риццоли, - тип контроля, которому вы будете подвергаться в этой новой метавселенной».

Определение и определение подлинности в метавселенной также может стать более сложным. Технологические компании могут столкнуться с непростыми вопросами о свободе, которой люди должны обладать, чтобы изображать себя представителями другой расы или пола, сказал Эрик Рамирес, доцент Университета Санта-Клары. Глубокие фейки - видео или аудио, в которых используется искусственный интеллект, чтобы заставить кого-то делать или говорить то, чего он не делал, - могут развиться и стать еще более реалистичными и интерактивными в мире метавселенной.

«Здесь больше места для обмана», - сказал Рамирес, который недавно участвовал в дискуссии за круглым столом с Клеггом о политических последствиях метавселенной. Такой вид обмана «использует множество встроенных психологий о том, как мы взаимодействуем с людьми и как мы их идентифицируем».

«В физическом мире вам часто приходится выполнять дополнительную работу, чтобы, например, отслеживать кого-то, но онлайн-мир значительно упрощает эту задачу», - сказал Нил Чилсон, старший научный сотрудник по технологиям и инновациям, придерживающийся правых взглядов. Институт Чарльза Коха, который также участвовал в круглом столе Меты.

Билл Стиллвелл, менеджер по продукту Meta по вопросам конфиденциальности и целостности виртуальной реальности, сказал в своем заявлении, что у разработчиков есть инструменты для управления опытом, который они создают на Oculus, но эти инструменты всегда можно улучшить. «Мы хотим, чтобы каждый чувствовал, что он контролирует свой опыт виртуальной реальности, и чувствовал себя в безопасности на нашей платформе».

Даже сторонники метавселенной, такие как Чилсон и Жарр, французские ди-джеи, которые скоро будут проводить концерты в виртуальной реальности, говорят, что регулирующим органам по всему миру придется разработать новые правила, касающиеся конфиденциальности, модерации контента и других вопросов, чтобы сделать эти цифровые пространства безопасными. Это может быть непростой задачей для правительств, которые годами изо всех сил пытались принять правила, регулирующие социальные сети.

«У каждой технологии есть темная сторона», - сказал Жарр. «Поэтому нам нужно срочно создать правила».

Джонатан Виктор, менеджер по продукту в Protocol Labs для разработчиков ПО с открытым исходным кодом, также видит потенциальную светлую сторону. Согласно его видению метавселенной, любой сможет владеть своей цифровой 3D-версией, обменивать криптовалюту или делать карьеру, продавая созданные им виртуальные товары.

«Есть невероятный потенциал роста», - сказал Виктор. «Вопрос в том, как правильно его построить?»

Дезинформация уже добралась до метавселенной