Команда специалистов из Оксфордского университета, совместно с лабораторией DeepMind, принадлежащей Google, начала разработку системы аварийного выключения для самообучающихся алгоритмов.

Согласно исследователям, со временем искусственный интеллект может обнаружить механизмы игнорирования или обхода стандартной команды отключения. Поэтому цель работы учёных состоит в разработке программной платформы, которая не позволит ИИ обнаружить способ игнорирования стоп-команд.

Помимо этого, "красная кнопка" должна прервать любую активность робота, обеспечить безопасность окружающим при возникновении потенциально опасной ситуации, а также предотвратить совершение действий, которые могут привести к "необратимым последствиям".

Ранее многие известные учёные и разработчики уже озвучивали свои опасения, связанные с разработкой самообучающихся алгоритмов. В прошлом году Стивен Хокинг, Стив Возняк, Илон Маск, а также многие другие бизнесмены, исследователи и специалисты в области робототехники и искусственного интеллекта подписали открытое письмо, предостерегающее производителей оружия от создания полностью автономных боевых систем.

bbabo.Net