Ministerstvo digitálneho rozvoja plánuje vytvoriť platformu na identifikáciu deepfakes vytvorených pomocou technológií umelej inteligencie (AI), uviedol pre Vedomosti zástupca ministerstva. Premiér Michail Mišustin dal ministerstvu zodpovedajúce pokyny.
„Diskutujeme o možnosti vytvorenia jednotnej platformy, ktorá bude identifikovať nespoľahlivé informácie, vrátane informácií generovaných pomocou technológií AI,“ vysvetlil zástupca ministerstva pre digitálny rozvoj. "Bolo navrhnuté vykonať predbežné výskumné práce na určených témach." Hovorca nespresnil, kedy sa plánuje spustenie platformy a kto ju bude vyvíjať.
Dnes je identifikácia deepfakes založená na manuálnej práci forenzných vedcov a špecialistov na informačnú bezpečnosť pri analýze konkrétneho videa. Hľadajú moaré okolo obrázkov, chvenie, oneskorenie reči, spájanie, narušenie toku zvuku a histogramy.
Systém IT by mohol odhaliť neprirodzené zmeny alebo anomálie vo videách a obrázkoch, hovorí Ruslan Permyakov, zástupca riaditeľa kompetenčného centra NTI „Trusted Interaction Technologies“ so sídlom v TUSUR. Logickejšie je však identifikovať nie vonkajšie znaky deepfake, ale použitie špecifickej techniky tvorby obsahu, poznamenáva Igor Bederov, vedúci oddelenia vyšetrovania spoločnosti T.Hunter, odborník na trh NTI SafeNet. „To znamená, že by bolo efektívnejšie odhaliť konkrétnu technológiu. Je to správnejšie, keďže technológie deepfake sa neustále zlepšujú,“ dodal.
„Jedným z pravdepodobných riešení je webový prehľadávač, ktorý prehľadá video a skontroluje jeho jedinečnosť a pravdepodobnosť, že bolo vygenerované. Tento prístup si však bude vyžadovať veľké množstvo výpočtových zdrojov,“ poznamenáva generálny riaditeľ VisionLabs Dmitrij Markov.
Nástroj, ktorý ministerstvo digitálneho rozvoja plánuje vyvinúť, by mohol byť dodaný vo forme doplnku prehliadača, ktorý bude automaticky skenovať stránky na obsah AI, navrhuje Alexey Borshchov, produktový manažér spoločnosti Just AI. Na monitorovanie sociálnych sietí, napríklad Telegram, bude potrebné vyvinúť špeciálny softvér alebo získať povolenie a prístup k API konkrétnej sociálnej siete, hovorí Vladimir Sveshnikov, spoluzakladateľ Parodist AI.
Experti, ktorých viedol rozhovor Vedomosti, sa zhodli, že o vznik takejto platformy majú záujem predovšetkým banky a iné finančné inštitúcie, médiá, vlastníci veľkých kanálov Telegram a sociálne siete. Teda tých, ktorí pracujú s veľkým množstvom dát, obsahu UGC a majú záujem znížiť množstvo dezinformácií a mieru podvodov, ozrejmuje Markov.
bbabo.Net