След смущаващия дисплей на тяхното творение, разработчиците на Дейвид от Sensorium казаха, че планират да добавят филтри, за да ограничат това, което той може да каже по чувствителни теми. Но моментът илюстрира колко лесно може да бъде хората да се сблъскат с обидно или подвеждащо съдържание в метавселената – и колко трудно ще бъде да го контролират.
Предимно мрачният опит на технологичните компании в управлението на обидно съдържание беше подложен на нов контрол през последните месеци след пускането на кеша с хиляди вътрешни документи на Meta на американските регулатори от бившия продуктов мениджър на Facebook Франсис Хауген. Документите, които бяха предоставени на Конгреса и получени от новинарските организации в редактирана форма, разкриха нови подробности за това как алгоритмите на Мета разпространяват вредна информация като конспиративни теории, език на омраза и насилие и доведоха до десетки критични истории от Wall Street Journal и консорциум от новинарски организации. Докладите естествено предизвикаха въпроси за това как Мета и други възнамеряват да патрулират в разрастващия се виртуален свят за обидно поведение и подвеждащи материали.
„Въпреки смяната на името, Meta все още позволява на доставчиците на опасна дезинформация да процъфтяват в съществуващите си приложения“, каза Алекс Кадие, управляващ директор на NewsGuard в Обединеното кралство. „Ако компанията не е успяла ефективно да се справи с дезинформацията на по-прости платформи като Facebook и Instagram, изглежда малко вероятно те да могат да го направят в много по-сложната метавселена."
Мета ръководителите не са останали без внимание на критиките. Докато натрупват шум за метавселената, те се ангажират да вземат предвид поверителността и благосъстоянието на своите потребители, докато разработват платформата. Компанията също така твърди, че тези виртуални светове от следващо поколение няма да бъдат собственост изключително на Meta, а ще идват от колекция от инженери, създатели и технологични компании, чиито среди и продукти работят заедно.
Тези иноватори и регулатори по целия свят могат да започнат да обсъждат политики, които биха поддържали безопасността на метавселената, дори преди основната технология да е била напълно разработена, казват ръководителите.
„В миналото скоростта, с която пристигат новите технологии, понякога караше политиците и регулаторите да играят на догонване“, каза Ник Клег, вицепрезидент по глобалните въпроси, през октомври на годишната конференция на Meta Connect. „Не е задължително този път да е така, защото имаме години преди метавселената, която си представяме, да бъде напълно реализирана.“
Meta също така казва, че планира да работи с групи за правата на човека и правителствени експерти за отговорно развитие на виртуалния свят и инвестира 50 милиона долара за тази цел.
За своите евангелисти виртуалната и разширената реалност ще отключи способността да се изживява света по начини, които преди са съществували само в мечтите на писателите на научнофантастични романи. Компаниите ще могат да провеждат срещи в дигитални заседателни зали, където служителите на различни места могат да се чувстват така, сякаш наистина са заедно на едно място. Приятелите ще изберат свои собствени аватари и ще се телепортират заедно в концерти, уроци по упражнения и 3D видео игри. Художниците ще могат да хостват творчески изживявания, съобразени с географски места в разширена реалност, за да се насладят на всеки притежател на устройство. Предприемачите ще създадат виртуални магазини, където могат да се купуват цифрови и физически стоки.
Но дигиталните наблюдатели казват, че същите качества, които превръщат метавселената в примамлива иновация, могат също така да отворят още по-широко вратата за вредно съдържание. Реалистичното усещане за преживявания, задвижвани от виртуална реалност, може да бъде опасно оръжие в ръцете на лоши актьори, които се стремят да разпалят омраза, насилие и тероризъм.„Документите във Facebook показаха, че платформата може да функционира почти като система „до ключ“ за екстремистки наематели и метавселената ще направи още по-лесно извършването на това насилие“, каза Карен Корнбл, директор на Инициативата за цифрови иновации и демокрация на Германския фонд Маршал и бивш посланик на САЩ в Организацията за икономическо сътрудничество и развитие.
Въпреки че всеобхватната, взаимосвързана метавселена все още е теоретична, съществуващите платформи за виртуална реалност и игри предлагат прозорец към това какви видове проблемно съдържание може да процъфтява там.
Документите във Facebook разкриха, че компанията вече има доказателства, че обидното съдържание вероятно ще направи скока от социално към виртуално. В един пример служител на Facebook описва изпитание на расизъм, докато играе играта за виртуална реалност Rec Room на слушалки Oculus Quest.
След като влезе в един от най-популярните виртуални светове в играта, служителят беше посрещнат с „непрекъснати скандирания на: „N***** N***** N*****“.“ Според документите, служителят написа във вътрешен дискусионен форум, че се е опитал да разбере кой крещи и как да докладва за тях, но не можа. Rec Room каза, че предоставя няколко контрола за идентифициране на високоговорителите, дори когато този човек не се вижда, и в този случай забрани акаунта на нарушителя на потребителя.
„В крайна сметка се отказах и напуснах света, чувствайки се победен“, пише служителят, чието име беше редактирано в документите.
Злоупотребата вече е достигнала и до други VR продукти. Хората във VRChat, платформа, където потребителите могат да изследват светове, облечени като различни аватари, описват почти трансформиращо преживяване, в което са изградили виртуална общност, несравнима в реалния свят. В тема на Reddit за VRChat те също описват почти непоносими количества расизъм, хомофобия, трансфобия – и „не забравяйте тъпите нацисти“, както написа един потребител на VRChat. Не е необичайно играчите да се разхождат, повтаряйки N-думата, докато някои виртуални светове са нападнати от аватари на Хитлер и KKK.
VRChat написа през 2018 г., че работи за справяне с „процента потребители, които избират да участват в неуважително или вредно поведение“ с модераторски екип, който „наблюдава VRChat постоянно“. Но години по-късно играчите все още съобщават за вредни потребители и казват, че „привидно нищо не е направено“. Други се опитват да заглушат или блокират гласовете или аватарите на проблемните потребители, но честотата на злоупотребата може да бъде огромна.
Хората също така описват расизъм в популярни видеоигри като Second Life и Fortnite; някои жени описват, че са били сексуално тормозени или нападнати в платформи за виртуална реалност; и родителите изразиха опасения, че децата им са били подготвени на привидно безобидната платформа за игри Roblox за деца.
Степента, в която метавселената остава безопасно пространство, ще зависи отчасти от това как компаниите обучават своите AI системи за модериране на платформите, каза Андреа-Емилио Рицоли, директор на швейцарския институт за изкуствен интелект Дале Мол. AI може да бъде обучен да открива и премахва речта на омразата и дезинформацията, а системите също могат по невнимание да ги засилят.
Нивото на проблемно съдържание в метавселената също ще зависи от това дали технологичните компании проектират цифрови среди, които да функционират като малки частни групи само с покани или широко отворени обществени площади. Доносчикът на сигнали Хауген открито критикува плановете на Facebook за метавселената, но наскоро каза на европейските законодатели, че речта на омразата и дезинформацията във виртуалните светове може да не пътуват толкова далеч или толкова бързо, колкото в социалните медии, защото повечето хора ще взаимодействат в малък брой .
Но също така е също толкова вероятно Meta да интегрира своите настоящи мрежи, включително Facebook, Instagram и WhatsApp, в метавселената, каза Брент Мителщат, изследовател по етика на данните в Оксфордския интернет институт.
„Ако запазят същите инструменти, които са допринесли за разпространението на дезинформация на техните настоящи платформи, е трудно да се каже, че метавселената ще помогне“, каза Мителщат, който също е член на групата по етика на данните в Института на Алън Тюринг. Като се има предвид, че голяма част от дезинформацията и речта на омразата могат да възникнат и по време на частни взаимодействия в метавселената, добави Рицоли, платформите ще се сблъскат със същите дебати относно свободата на словото и цензурата, когато решават дали да премахнат вредно съдържание. Искат ли платформите виртуални същества да се доближат до хората и да им кажат, че разговорът им не се основава на факти, или им пречат изобщо да водят разговор? "Това е спорен въпрос", каза Рицоли, "типът на контрол, на който ще бъдете подложени в тази нова метавселена."
Дефинирането и определянето на автентичността в метавселената също може да стане по-сложно. Технологичните компании могат да се изправят пред трудни въпроси относно свободата, на която хората трябва да се радват, за да се представят като представители на различна раса или пол, каза Ерик Рамирес, доцент в университета Санта Клара. Дълбоките фалшификати – видеоклипове или аудио, които използват изкуствен интелект, за да накарат някой да изглежда, че прави или казва нещо, което не е – могат да се развият, за да станат още по-реалистични и интерактивни в света на метавселената.
„Има повече място за измама“, каза Рамирес, който наскоро участва в дискусия на кръгла маса с Клег относно политическите последици от метавселената. Този вид измама „се възползва от много вградена психология за това как взаимодействаме с хората и как идентифицираме хората“.
„Във физическия свят често трябва да вършите допълнителна работа, за да проследите някого, например, но онлайн святът го прави много по-лесно“, каза Нийл Чилсън, старши научен сътрудник по технологии и иновации в дясното Charles Koch Institute, който също участва в кръглата маса на Мета.
Бил Стилуел, мета продуктов мениджър за поверителност и интегритет на VR, каза в изявление, че разработчиците имат инструменти за модериране на преживяванията, които създават в Oculus, но инструментите винаги могат да се подобрят. „Искаме всеки да се чувства така, сякаш контролира своето VR изживяване и да се чувства в безопасност на нашата платформа.“
Дори поддръжници на метавселената като Chilson и Jarre, френският диджей, който скоро ще проведе концерти за виртуална реалност, казват, че регулаторите по целия свят ще трябва да изготвят нови правила относно поверителността, модерирането на съдържанието и други въпроси, за да направят тези дигитални пространства безопасни. Това може да е трудна задача за правителствата, които от години се борят да приемат регулации за управление на социалните медии.
„Всяка технология има тъмна страна“, каза Жар. "Така че трябва спешно да създадем регулации."
Джонатан Виктор, продуктов мениджър в разработчика с отворен код Protocol Labs, също вижда потенциална ярка страна. В неговата визия за метавселената всеки ще може да притежава цифрова 3D версия на себе си, да обменя криптовалута или да направи кариера, продавайки виртуални стоки, които е създал.
„Има невероятна полза“, каза Виктор. „Въпросът е какъв е правилният начин да го изградим?“
bbabo.Net