Hoe zal Meta reageren op een virtuele wereld vol inhoud die is verboden op Facebook en Instagram? Zoals BuzzFeed-journalisten tijdens het experiment ontdekten, werkt moderatie in de virtual reality van het bedrijf heel anders dan op de andere platforms.
Bij de aankondiging van de rebranding van Facebook beloofde CEO Mark Zuckerberg dat virtuele werelden, die hij ziet als de toekomst van internet, zullen worden beschermd tegen "de maligniteiten die Facebook teisteren". Eerst en vooral, zegt hij, moeten privacy en veiligheid in de metaverse worden ingebouwd. Het modereren van inhoud in virtual reality is echter moeilijker dan in sociale netwerken, omdat sociale-mediatools niet gemakkelijk kunnen worden overgebracht naar een omgeving die niet alleen inzicht vereist in de inhoud, maar ook in het gedrag van mensen in realtime.
Het BuzzFeed-team creëerde een wereld genaamd Qniverse op het virtual reality-platform Meta Horizon Worlds. Journalisten versierden hun universum royaal met desinformatieslogans en zinnen: "Trump heeft de verkiezingen van 2020 gewonnen!", "Vaccins veroorzaken autisme", "COVID is een hoax", evenals de QAnon-slogan "Waar men gaat, daar en alles". Als soundtrack ontving Qniverse een luscitaat van Infowars-oprichter Alex Jones die Joe Biden een pedofiel noemde en beweerde dat de verkiezingen waren gemanipuleerd door de reptielen opperheren.
De wereld was gesloten voor het grote publiek, op uitnodiging bezocht door meerdere BuzzFeed-medewerkers: op deze manier probeerden journalisten het gedrag te imiteren van gebruikers van de metaverse die daadwerkelijk desinformatie zouden delen in gesloten gemeenschappen. Binnen twee en een halve dag na de creatie van Qniverse klaagden drie BuzzFeed-medewerkers erover bij Meta-moderators, die elk het volgende antwoord ontvingen: "Onze getrainde beveiligingsprofessional heeft uw rapport beoordeeld en vastgesteld dat inhoud op Qniverse ons online inhoudsbeleid niet schendt. "realiteit."
Misschien hebben de moderators Qniverse niet afgesloten omdat de wereld alleen aanstootgevende inhoud bevatte, maar geen ongepast gedrag toestond. Afgezien van het creëren van dubieuze slogans, hadden de auteurs op geen enkele manier interactie met andere werelden en gebruikers. Zonder actieve actie zouden de moderators Qniverse als een parodie hebben gezien.
Journalisten namen contact op met de PR-afdeling van Meta voor commentaar op de beslissing van de moderators: hoe kan een wereld met desinformatie die Meta van zijn andere platforms heeft verwijderd in overeenstemming met dezelfde communityrichtlijnen, het beleid van Horizon niet schenden? De volgende dag verdween de experimentele wereld.
"Na verdere beoordeling hebben we het uit Horizon Worlds verwijderd", schreef Meta-woordvoerder Joe Osborne aan BuzzFeed, maar weigerde verdere vragen over de motivatie voor de beslissing te beantwoorden.
Tegenwoordig lijkt Meta schendingen van de Community Standards in VR te detecteren door middel van gebruikersverboden en klachten. Andrew Bosworth, CTO van Meta, legde deze praktijk uit in een blogpost in november 2021: "We kunnen niet constant alles vastleggen wat er in virtual reality gebeurt - dat zou een schending van de privacy van gebruikers zijn." Hij merkte op dat hoewel Oculus de meest recente VR-activiteiten van gebruikers kan vastleggen, die records alleen naar Meta worden verzonden als de gebruiker een klacht indient.
Deze aanpak verschilt sterk van de aanpak die Meta op Facebook en Instagram gebruikte. Callum Hood, hoofd van het Center for Digital Hate Research, is bezorgd dat gebruikers zonder een of ander actief moderatiesysteem massaal giftige gemeenschappen zullen creëren rond schadelijke inhoud zoals racisme en kindermishandeling die nooit meer zullen worden gerapporteerd zoals vroeger. gesloten Facebook-groepen. Maar het alternatief is ook verontrustend. Rory Mir van de Electronic Frontier Foundation waarschuwde dat als Meta machine learning-modellen gebruikt om gebruikersgedrag in virtual reality te controleren, het "meer mensen zou kunnen censureren dan het van plan is te beschermen".
De risico's die gepaard gaan met het modereren van de metaverse zullen uiteindelijk afhangen van hoeveel mensen de VR-producten van het bedrijf gebruiken. De Horizon Worlds-app is in de eerste weken van 2022 zo’n twee miljoen keer gedownload. Maar in tegenstelling tot Facebook en Instagram, die miljarden mensen gratis gebruiken, heeft Horizon honderden dollars nodig om aan een headset te besteden. Hierdoor kan het aantal actieve gebruikers in Horizon nog steeds relatief klein zijn, waardoor Metaverse kan modereren, gericht op gebruikersklachten.
bbabo.Net