Das Ministerium für digitale Entwicklung plant die Schaffung einer Plattform zur Identifizierung von Deepfakes, die mithilfe von Technologien der künstlichen Intelligenz (KI) erstellt wurden, sagte ein Vertreter des Ministeriums gegenüber Wedomosti. Ministerpräsident Michail Mischustin erteilte dem Ministerium entsprechende Weisungen.
„Wir diskutieren die Möglichkeit, eine einheitliche Plattform zu schaffen, die unzuverlässige Informationen identifiziert, auch solche, die mithilfe von KI-Technologien generiert wurden“, erklärte ein Vertreter des Ministeriums für digitale Entwicklung. „Es wurde vorgeschlagen, zu den vorgesehenen Themen Vorarbeiten durchzuführen.“ Der Gesprächspartner gab nicht an, wann die Plattform eingeführt werden soll und wer sie entwickeln wird.
Heutzutage basiert die Identifizierung von Deepfakes auf der manuellen Arbeit von Forensikern und Informationssicherheitsspezialisten bei der Analyse eines bestimmten Videos. Sie suchen nach Moiré-Effekten rund um Bilder, Jitter, Sprachverzögerung, Spleißen, Störungen des Audioflusses und Histogrammmerkmalen.
Ein IT-System könnte unnatürliche Veränderungen oder Anomalien in Videos und Bildern erkennen, sagt Ruslan Permyakov, stellvertretender Direktor des NTI-Kompetenzzentrums „Trusted Interaction Technologies“ bei TUSUR. Es sei jedoch logischer, nicht die äußeren Anzeichen eines Deepfakes zu identifizieren, sondern die Verwendung einer bestimmten Technik zur Inhaltserstellung, bemerkt Igor Bederov, Leiter der Untersuchungsabteilung bei T.Hunter und NTI SafeNet-Marktexperte. „Das heißt, es wäre effektiver, eine bestimmte Technologie zu erkennen. Das ist richtiger, da sich die Deepfake-Technologien ständig verbessern“, fügte er hinzu.
„Eine wahrscheinliche Lösung ist ein Webcrawler, der das Video crawlt und dabei seine Einzigartigkeit und die Wahrscheinlichkeit, dass es generiert wurde, überprüft. Dieser Ansatz wird jedoch eine große Menge an Rechenressourcen erfordern“, bemerkt Dmitry Markov, CEO von VisionLabs.
Das Tool, das das Ministerium für digitale Entwicklung entwickeln will, könnte in Form eines Browser-Plugins bereitgestellt werden, das Websites automatisch nach KI-Inhalten durchsucht, schlägt Alexey Borshchov, Produktmanager bei Just AI, vor. Um soziale Netzwerke, zum Beispiel Telegram, zu überwachen, sei es notwendig, spezielle Software zu entwickeln oder die Erlaubnis und den Zugriff auf die API eines bestimmten sozialen Netzwerks einzuholen, sagt Vladimir Sveshnikov, Mitbegründer von Parodist AI.
Die von Wedomosti befragten Experten waren sich einig, dass Banken und andere Finanzinstitute, Medien, Eigentümer großer Telegram-Kanäle und sozialer Netzwerke vor allem an der Entstehung einer solchen Plattform interessiert sind. Das heißt, diejenigen, die mit großen Datenmengen und UGC-Inhalten arbeiten und daran interessiert sind, die Menge an Fehlinformationen und das Ausmaß des Betrugs zu reduzieren, stellt Markov klar.
bbabo.Net