Bbabo NET

Наука и Технологија Вести

ОпенАИ представља алатку за клонирање гласа

Сан Франциско – ОпенАИ је у петак открио алатку за клонирање гласа коју планира да држи под строгом контролом све док се не успоставе заштитне мере за спречавање аудио фалсификата намењених заваравању слушалаца.

Модел под називом „Воице Енгине“ може у суштини да дуплира нечији говор на основу аудио узорка од 15 секунди, према посту на ОпенАИ блогу који дели резултате малог теста алата.

„Схватамо да стварање говора који личи на гласове људи носи озбиљне ризике, који су посебно на првом месту у изборној години“, саопштила је компанија са седиштем у Сан Франциску.

„Сарађујемо са америчким и међународним партнерима из различитих влада, медија, забаве, образовања, цивилног друштва и шире како бисмо осигурали да уградимо њихове повратне информације док градимо.

Истраживачи дезинформација страхују од масовне злоупотребе апликација које покреће вештачка интелигенција у кључној изборној години захваљујући растућим алатима за клонирање гласа, који су јефтини, лаки за употребу и тешко их је ући у траг.

Признајући ове проблеме, ОпенАИ је рекао да „заузима опрезан и информисан приступ ширем издању због могућности злоупотребе синтетичког гласа“.

Опрезно откривање уследило је неколико месеци након што је политички консултант који ради за дуготрајну председничку кампању демократског ривала Џоа Бајдена признао да стоји иза роботског позива у којем се лажно представља амерички лидер.

Позив генерисан вештачком интелигенцијом, замисао оперативца конгресмена Минесоте Дина Филипса, садржао је нешто што је звучало као Бајденов глас који позива људе да не гласају на јануарским предизборима у Њу Хемпширу.

Инцидент је изазвао узбуну међу стручњацима који страхују од поплаве лажних дезинформација које покреће вештачка интелигенција у трци за Белу кућу 2024. као и на другим кључним изборима широм света ове године.

ОпенАИ је рекао да су се партнери који су тестирали Воице Енгине сложили са правилима укључујући захтевање изричитог и информисаног пристанка сваке особе чији је глас дуплиран помоћу алата.

Такође, публици мора бити јасно када се гласови које чују генеришу вештачком интелигенцијом, додала је компанија.

„Увели смо скуп безбедносних мера, укључујући водени жиг да бисмо пратили порекло било ког звука који генерише Воице Енгине, као и проактивно праћење начина на који се користи“, рекао је ОпенАИ.

ОпенАИ представља алатку за клонирање гласа