In ihrer Version des Metaversums stellen sich die Macher des Startups Sensorium Corp. eine unterhaltsame Umgebung vor, in der Ihr Konterfei eine virtuelle Tour durch eine verlassene Unterwasserwelt unternehmen, ein Livestream-Konzert mit dem französischen DJ Jean-Michel Jarre sehen oder mit Bots chatten kann. wie Kate, die in Lederjacken gekleidet ist und mit ihren Freunden Weißwein trinkt. Aber bei einer Demo dieser virtuellen Welt auf einer Tech-Konferenz in Lissabon Anfang des Jahres wurde es seltsam. Während die Teilnehmer mit diesen virtuellen Personen plauderten, wurde einigen ein kahlköpfiger Bot namens David vorgestellt, der, als er einfach gefragt wurde, was er von Impfstoffen halte, anfing, gesundheitliche Fehlinformationen zu verbreiten. Impfstoffe, behauptete er in einer Demo, seien manchmal gefährlicher als die Krankheiten, die sie zu verhindern versuchten.
Nach der peinlichen Darstellung ihrer Kreation sagten Davids Entwickler bei Sensorium, dass sie planen, Filter hinzuzufügen, um seine Aussagen zu sensiblen Themen einzuschränken. Aber der Moment hat gezeigt, wie leicht es für Menschen sein kann, auf anstößige oder irreführende Inhalte im Metaverse zu stoßen – und wie schwierig es sein wird, sie zu kontrollieren.
Unternehmen wie Apple Inc., Microsoft Corp. und die Facebook-Mutter Meta Platforms Inc. bemühen sich darum, das Metaverse aufzubauen, eine immersive digitale Welt, von der Evangelisten sagen, dass sie einige persönliche Interaktionen ersetzen wird. Die Technologie steckt noch in den Kinderschuhen, aber Branchenbeobachter schlagen Alarm, ob die alptraumhaften Herausforderungen bei der Inhaltsmoderation, die bereits soziale Medien plagen, in diesen neuen virtuellen und erweiterten Realitätswelten noch schlimmer sein könnten.
Die überwiegend düstere Erfolgsbilanz von Technologieunternehmen bei der polizeilichen Überwachung anstößiger Inhalte wurde in den letzten Monaten erneut auf den Prüfstand gestellt, nachdem die ehemalige Facebook-Produktmanagerin Frances Haugen einen Cache mit Tausenden von Meta-internen Dokumenten an die US-Regulierungsbehörden freigegeben hatte. Die Dokumente, die dem Kongress zur Verfügung gestellt und von Nachrichtenorganisationen in geschwärzter Form erhalten wurden, enthüllten neue Details darüber, wie die Algorithmen von Meta schädliche Informationen wie Verschwörungstheorien, hasserfüllte Sprache und Gewalt verbreiten, und führten zu Dutzenden kritischer Geschichten des Wall Street Journal und ein Konsortium von Nachrichtenagenturen. Die Berichte haben natürlich Fragen aufgeworfen, wie Meta und andere die aufkeimende virtuelle Welt nach beleidigendem Verhalten und irreführendem Material patrouillieren wollen.
„Trotz der Namensänderung ermöglicht Meta es Anbietern gefährlicher Fehlinformationen immer noch, mit seinen bestehenden Apps erfolgreich zu sein“, sagte Alex Cadier, Managing Director von NewsGuard in Großbritannien. „Wenn das Unternehmen nicht in der Lage war, Fehlinformationen auf einfacheren Plattformen wie Facebook und Instagram, es scheint unwahrscheinlich, dass sie dies in dem viel komplexeren Metaversum tun können."
Meta-Führungskräfte haben die Kritik nicht ignoriert. Während sie einen Hype um das Metaverse aufbauen, haben sie sich verpflichtet, die Privatsphäre und das Wohlbefinden ihrer Benutzer bei der Entwicklung der Plattform zu berücksichtigen. Das Unternehmen argumentiert auch, dass diese virtuellen Welten der nächsten Generation nicht ausschließlich im Besitz von Meta sein werden, sondern von einer Sammlung von Ingenieuren, Entwicklern und Technologieunternehmen stammen, deren Umgebungen und Produkte zusammenarbeiten.
Diese Innovatoren und Regulierungsbehörden auf der ganzen Welt können jetzt damit beginnen, Richtlinien zu erörtern, die die Sicherheit des Metaversums aufrechterhalten, noch bevor die zugrunde liegende Technologie vollständig entwickelt ist, sagen Führungskräfte.
"In der Vergangenheit hat die Geschwindigkeit, mit der neue Technologien auf den Markt kamen, manchmal politische Entscheidungsträger und Regulierungsbehörden aufgeholt", sagte Nick Clegg, Vizepräsident für globale Angelegenheiten, im Oktober auf der jährlichen Connect-Konferenz von Meta. "Dies muss diesmal nicht der Fall sein, denn wir haben noch Jahre, bis das Metaverse, das wir uns vorstellen, vollständig realisiert ist."
Meta plant außerdem, mit Menschenrechtsgruppen und Regierungsexperten zusammenzuarbeiten, um die virtuelle Welt verantwortungsvoll zu entwickeln, und investiert dafür 50 Millionen US-Dollar.
Für seine Evangelisten wird Virtual und Augmented Reality die Möglichkeit eröffnen, die Welt auf eine Weise zu erleben, die zuvor nur in den Träumen von Science-Fiction-Romanautoren existierte. Unternehmen können Meetings in digitalen Boardrooms abhalten, in denen Mitarbeiter an unterschiedlichen Standorten das Gefühl haben, wirklich an einem Ort vereint zu sein. Freunde wählen ihre eigenen Avatare und teleportieren sich gemeinsam zu Konzerten, Trainingskursen und 3D-Videospielen. Künstler können kreative Erlebnisse anbieten, die auf geografische Standorte in Augmented Reality zugeschnitten sind, damit jeder Geräteinhaber sie genießen kann. Unternehmer werden virtuelle Geschäfte erstellen, in denen digitale und physische Waren gekauft werden können.
Digitale Wachhunde sagen jedoch, dass dieselben Eigenschaften, die das Metaverse zu einer verlockenden Innovation machen, auch die Tür für schädliche Inhalte noch weiter öffnen können. Das realistische Gefühl von Virtual-Reality-basierten Erfahrungen könnte eine gefährliche Waffe in den Händen von schlechten Akteuren sein, die Hass, Gewalt und Terrorismus schüren wollen.„Die Facebook Papers haben gezeigt, dass die Plattform fast wie ein schlüsselfertiges System für extremistische Anwerber funktionieren kann und das Metaverse die Ausübung dieser Gewalt noch einfacher machen würde“, sagte Karen Kornbluh, Direktorin der Digital Innovation and Democracy Initiative des German Marshall Fund und ehemaliger US-Botschafter bei der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung.
Obwohl das weitreichende, vernetzte Metaversum noch theoretisch ist, bieten bestehende Virtual-Reality- und Gaming-Plattformen einen Einblick, welche Arten von problematischen Inhalten dort gedeihen könnten.
Die Facebook Papers zeigten, dass das Unternehmen bereits Beweise dafür hat, dass beleidigende Inhalte wahrscheinlich den Sprung von sozial zu virtuell schaffen. In einem Beispiel beschreibt ein Facebook-Mitarbeiter, wie er beim Spielen des Virtual-Reality-Spiels Rec Room auf einem Oculus Quest-Headset einen Anflug von Rassismus erlebt hat.
Nach dem Betreten einer der beliebtesten virtuellen Welten des Spiels wurde der Mitarbeiter mit "kontinuierlichen Gesängen von: 'N***** N***** N*****'" begrüßt. Der Mitarbeiter schrieb in einem internen Diskussionsforum, dass er oder sie versucht habe herauszufinden, wer anschreit und wie er sie melden kann, es aber nicht geschafft hat. Rec Room sagte, dass es mehrere Kontrollen bietet, um Sprecher zu identifizieren, auch wenn diese Person nicht sichtbar ist, und in diesem Fall das Konto des beleidigenden Benutzers gesperrt.
"Ich habe schließlich aufgegeben und die Welt mit einem Gefühl der Niederlage verlassen", schrieb der Mitarbeiter, dessen Name in den Dokumenten geschwärzt wurde.
Der Missbrauch hat auch schon andere VR-Produkte erreicht. Die Leute auf VRChat, einer Plattform, auf der Benutzer als verschiedene Avatare verkleidete Welten erkunden können, beschreiben eine fast transformative Erfahrung, bei der sie eine virtuelle Gemeinschaft aufgebaut haben, die in der realen Welt ihresgleichen sucht. In einem Reddit-Thread über VRChat beschreiben sie auch fast unerträgliche Mengen an Rassismus, Homophobie, Transphobie - und "vergiss die dummen Nazis nicht", wie ein VRChat-Benutzer schrieb. Es ist nicht ungewöhnlich, dass Spieler das N-Wort wiederholen, während einige virtuelle Welten von Hitler- und KKK-Avataren überfallen werden.
VRChat schrieb 2018, dass es daran arbeite, den „Prozentsatz der Benutzer, die sich für respektloses oder schädliches Verhalten entscheiden“, mit einem Moderationsteam anzugehen, das „VRChat ständig überwacht“. Aber Jahre später melden Spieler immer noch schädliche Benutzer und sagen, dass "nichts scheinbar jemals getan wird". Andere versuchen, die Stimmen oder Avatare problematischer Benutzer stummzuschalten oder zu blockieren, aber die Häufigkeit des Missbrauchs kann überwältigend sein.
Die Leute beschreiben Rassismus auch in beliebten Videospielen wie Second Life und Fortnite; einige Frauen haben beschrieben, auf Virtual-Reality-Plattformen sexuell belästigt oder angegriffen worden zu sein; und Eltern haben Bedenken geäußert, dass ihre Kinder auf der scheinbar harmlosen Roblox-Spieleplattform für Kinder gepflegt werden.
Social-Media-Unternehmen wie Meta, Twitter Inc. und YouTube von Google haben detaillierte Richtlinien, die es Benutzern untersagen, anstößige oder gefährliche Inhalte zu verbreiten. Um ihre Netzwerke zu moderieren, verlassen sich die meisten stark auf Systeme der künstlichen Intelligenz, um nach Bildern, Texten und Videos zu suchen, die so aussehen, als könnten sie gegen Regeln gegen Hassreden oder Anstiftung zu Gewalt verstoßen. Manchmal entfernen diese Systeme die beleidigenden Beiträge automatisch. Manchmal weisen die Plattformen dem Inhalt spezielle Labels zu oder schränken seine Sichtbarkeit ein.
Der Grad, in dem das Metaverse ein sicherer Raum bleibt, hängt teilweise davon ab, wie Unternehmen ihre KI-Systeme trainieren, um die Plattformen zu moderieren, sagte Andrea-Emilio Rizzoli, Direktor des Schweizer Dalle Molle Institute for Artificial Intelligence. KI kann darauf trainiert werden, Hassreden und Fehlinformationen zu erkennen und zu beseitigen, und Systeme können sie auch unbeabsichtigt verstärken.
Das Ausmaß problematischer Inhalte im Metaverse hängt auch davon ab, ob Technologieunternehmen digitale Umgebungen so gestalten, dass sie wie kleine private Gruppen nur auf Einladung oder weitläufige öffentliche Plätze funktionieren. Whistleblower Haugen kritisierte die Metaverse-Pläne von Facebook offen, sagte jedoch kürzlich dem europäischen Gesetzgeber, dass Hassreden und Fehlinformationen in virtuellen Welten möglicherweise nicht so weit oder so schnell wie in sozialen Medien verbreitet werden, da die meisten Menschen in geringer Zahl interagieren würden .
Genauso wahrscheinlich sei es aber auch, dass Meta seine aktuellen Netzwerke, darunter Facebook, Instagram und WhatsApp, in das Metaverse einbindet, sagt Brent Mittelstadt, Forschungsstipendiat für Datenethik am Oxford Internet Institute.
„Wenn sie dieselben Tools beibehalten, die zur Verbreitung von Fehlinformationen auf ihren aktuellen Plattformen beigetragen haben, ist es schwer zu sagen, dass das Metaverse helfen wird“, sagte Mittelstadt, die auch Mitglied der Data Ethics Group am Alan Turing Institute ist .Angesichts der Tatsache, dass ein Großteil der Fehlinformationen und Hassreden auch während privater Interaktionen im Metaverse auftreten könnten, fügte Rizzoli hinzu, werden Plattformen bei der Entscheidung, ob schädliche Inhalte entfernt werden sollen, denselben Debatten über Meinungsfreiheit und Zensur ausgesetzt sein. Wollen Plattformen, dass virtuelle Wesen auf Menschen zugehen und ihnen sagen, dass ihr Gespräch nicht faktenbasiert ist, oder wollen sie sie daran hindern, das Gespräch überhaupt zu führen? "Dies ist ein umstrittenes Thema", sagte Rizzoli, "die Art der Kontrolle, der Sie in diesem neuen Metaversum ausgesetzt sein werden."
Auch das Definieren und Bestimmen von Authentizität im Metaverse könnte komplizierter werden. Technologieunternehmen könnten sich kniffligen Fragen bezüglich der Freiheit stellen, die Menschen genießen sollten, sich als Angehörige einer anderen Rasse oder eines anderen Geschlechts darzustellen, sagte Erick Ramirez, außerordentlicher Professor an der Santa Clara University. Deep Fakes – Videos oder Audio, die künstliche Intelligenz verwenden, um jemanden dazu zu bringen, etwas zu tun oder zu sagen, was er nicht getan hat – könnten sich in einer metaversen Welt zu noch realistischeren und interaktiver werden.
"Es gibt mehr Raum für Täuschung", sagte Ramirez, der kürzlich mit Clegg an einer Diskussionsrunde über die politischen Auswirkungen des Metaversums teilnahm. Diese Art von Täuschung "nutzt viel eingebaute Psychologie darüber, wie wir mit Menschen interagieren und wie wir Menschen identifizieren".
Das Metaverse könnte auch die Privatsphäre der Benutzer gefährden, sagten Befürworter und Forscher. Zum Beispiel könnten Personen, die die Augmented-Reality-betriebene Brille tragen, die derzeit von Snap Inc. und Meta entwickelt werden, ohne ihr Wissen oder ihre Zustimmung Informationen über andere Personen in ihrer Umgebung aufzeichnen. Benutzer, die rein virtuelle Welten erkunden, könnten auch mit digitalen Belästigungen oder Stalking durch schlechte Schauspieler konfrontiert werden.
„In der physischen Welt muss man oft zusätzliche Arbeit leisten, um zum Beispiel jemanden zu verfolgen, aber die Online-Welt macht es viel einfacher“, sagte Neil Chilson, Senior Research Fellow für Technologie und Innovation an der rechtsgerichteten Charles-Koch-Institut, der auch am Runden Tisch von Meta teilgenommen hat.
Bill Stillwell, Meta-Produktmanager für VR-Datenschutz und -Integrität, sagte in einer Erklärung, dass Entwickler Tools haben, um die Erfahrungen, die sie auf Oculus erstellen, zu moderieren, aber die Tools können sich immer verbessern. "Wir möchten, dass jeder das Gefühl hat, die Kontrolle über seine VR-Erfahrung zu haben und sich auf unserer Plattform sicher zu fühlen."
Sogar Metaverse-Befürworter wie Chilson und Jarre, der französische DJ, der bald Virtual-Reality-Konzerte veranstalten wird, sagen, dass Regulierungsbehörden auf der ganzen Welt neue Regeln in Bezug auf Datenschutz, Inhaltsmoderation und andere Themen ausarbeiten müssen, um diese digitalen Räume sicher zu machen. Das könnte eine große Herausforderung für Regierungen sein, die seit Jahren damit kämpfen, Vorschriften zur Regulierung der sozialen Medien zu erlassen.
"Jede Technologie hat eine dunkle Seite", sagte Jarre. "Deshalb müssen wir dringend Regelungen schaffen."
Auch Jonathan Victor, Produktmanager beim Open-Source-Entwickler Protocol Labs, sieht eine potenzielle positive Seite. In seiner Vision des Metaversums wird jeder in der Lage sein, eine digitale 3D-Version von sich selbst zu besitzen, Kryptowährungen auszutauschen oder eine Karriere mit dem Verkauf von virtuellen Gütern zu machen, die er selbst erstellt hat.
"Es gibt unglaubliche Vorteile", sagte Victor. "Die Frage ist, wie man es richtig baut?"
bbabo.Net