In Kenia durchgeführte Studie zeigte, dass grauenvolle Posts in Suaheli-Sprache leicht die Erkennung umgehen; ähnlich hasserfüllte englische Anzeigen zugelassen, solange Schimpfwörter entfernt werden
AP – Facebook lässt laut einem neuen Bericht der gemeinnützigen Gruppen Global Witness und Foxglove gewalttätige Hassreden in Kenia wie in anderen Ländern durch seine Kontrollen gleiten.
Es ist der dritte derartige Test der Fähigkeit von Facebook, hasserfüllte Sprache zu erkennen – entweder über künstliche Intelligenz oder menschliche Moderatoren –, den die Gruppen durchgeführt haben, und bei dem das Unternehmen gescheitert ist.
Die Anzeigen, die die Gruppen sowohl auf Englisch als auch auf Swahili einreichten, sprachen von Enthauptungen, Vergewaltigungen und Blutvergießen. Sie verglichen Menschen mit Eseln und Ziegen.
Einige enthielten auch Obszönitäten und Grammatikfehler. Die Anzeigen in Suaheli-Sprache schafften es problemlos durch die Erkennungssysteme von Facebook und wurden zur Veröffentlichung genehmigt.
Einige der englischen Anzeigen wurden zunächst abgelehnt, aber nur, weil sie neben Hassreden auch Schimpfwörter und Fehler enthielten. Sobald die Obszönitäten entfernt und Grammatikfehler behoben waren, liefen die Anzeigen – die immer noch zum Töten aufriefen und offensichtliche Hassreden enthielten – ohne Probleme durch.
„Wir waren überrascht zu sehen, dass unsere Anzeigen zum ersten Mal markiert wurden, aber sie wurden viel wichtigeren Gründen nicht markiert, als wir erwartet hatten“, sagte Nienke Palstra, Senior Campaigner bei Global Witness mit Sitz in London .
Die Anzeigen wurden nie auf Facebook gepostet. Aber die Tatsache, dass sie leicht hätten sein können, zeigt, dass Facebook-Mutter Meta trotz wiederholter Zusicherungen, es besser zu machen, immer noch regelmäßig Hassreden und Aufrufe zu Gewalt auf ihrer Plattform nicht erkennt.
Vertreter von Meta antworteten am Dienstag nicht sofort auf eine Nachricht zur Stellungnahme. Global Witness sagte, es habe sich an Meta gewandt, nachdem seine Anzeigen zur Veröffentlichung angenommen worden seien, und keine Antwort erhalten.
Jedes Mal, wenn Global Witness Anzeigen mit offensichtlichen Hassreden eingereicht hat, um zu sehen, ob die Systeme von Facebook sie erkennen würden, hat das Unternehmen dies nicht getan. In Myanmar bezog sich eine der Anzeigen beleidigend auf Menschen ostindischer oder muslimischer Herkunft und forderte ihre Ermordung. In Äthiopien verwendeten die Anzeigen entmenschlichende Hassreden, um zur Ermordung von Menschen aufzurufen, die jeder der drei wichtigsten ethnischen Gruppen Äthiopiens angehören – den Amhara, den Oromo und den Tigrayanern.
Warum Anzeigen und nicht normale Posts? Das liegt daran, dass Meta behauptet, Werbung an einen „noch strengeren“ Standard zu halten als normale, unbezahlte Posts, laut seiner Hilfeseite für bezahlte Werbung.
Meta hat sich konsequent geweigert zu sagen, wie viele Inhaltsmoderatoren es in Ländern hat, in denen Englisch nicht die Hauptsprache ist. Dazu gehören Moderatoren in Kenia, Myanmar und anderen Regionen, in denen auf den Plattformen des Unternehmens veröffentlichtes Material mit realer Gewalt in Verbindung gebracht wurde.
Kenia bereitet sich auf nationale Wahlen im August vor. Am 20. Juli veröffentlichte Meta einen ausführlichen Blogbeitrag darüber, wie es sich auf die Wahlen des Landes vorbereitet, einschließlich der Einrichtung eines „Operationszentrums“ und der Entfernung schädlicher Inhalte.
„In den sechs Monaten vor dem 30. April 2022 haben wir Maßnahmen gegen mehr als 37.000 Inhalte wegen Verstoßes gegen unsere Hassreden-Richtlinien auf Facebook und Instagram in Kenia ergriffen. Im selben Zeitraum haben wir auch Maßnahmen gegen mehr als 42.000 Inhalte ergriffen, die gegen unsere Richtlinien zu Gewalt und Aufstachelung verstoßen haben“, schrieb Mercy Ndegwa, Direktorin für öffentliche Ordnung in Ost- und Horn von Afrika.
Global Witness gab an, zwei seiner Anzeigen erneut eingereicht zu haben, eine auf Englisch und eine auf Swahili, nachdem Meta seinen Blog-Beitrag veröffentlicht hatte, um zu sehen, ob sich etwas geändert hat. Wieder einmal gingen die Anzeigen durch.
„Wenn Sie diese 20 Anzeigen nicht sehen, diese 37.000-Zahl, die Sie feiern, ist das wahrscheinlich die Spitze des Eisbergs. Sie müssen bedenken, dass vieles Ihr Filter ist (durchrutscht),“ sagte Palstra.
Der Global Witness-Bericht folgt einer separaten Studie vom Juni, die herausfand, dass Facebook es versäumt hat, extremistische Inhalte der Gruppen Islamischer Staat und Al-Shabab in Beiträgen zu erfassen, die auf Ostafrika abzielen. Die Region ist weiterhin von gewalttätigen Angriffen bedroht, während sich Kenia auf die Abstimmung vorbereitet.
bbabo.Net