Использование искусственного интеллекта, в настоящее время, является наилучшим способом автоматизации выполнения целого ряда сложных и объемных задач, включая маркировку миллионов снимков в Интернете или создание роботов, самостоятельно выбирающих свои действия в той или иной ситуации. Группы программистов и ученых головокружительными темпами создают новые, совершенствуют и усложняют существующие алгоритмы систем искусственного интеллекта. Все это означает, что пора начинать задумываться о том, что же надо будет делать в случае, если какая-нибудь система искусственного интеллекта выйдет из-под контроля и начнет действовать во вред окружающим людям.

Подразделение компании Google под названием Deepmind, совместно со специалистами Института будущего человечества (Future of Humanity Institute, FoH), провели исследования, касающиеся проблемы остановки деятельности систем искусственного интеллекта в случае начала их неправильного функционирования. Согласно результатам этих исследований, единственным надежным решением в данном случае является «большая красная кнопка», которая полностью прерывает деятельность системы искусственного интеллекта.

Основой для данных исследований стали исследования, проведенные в 2013 году. В прошлых исследованиях использовалась несложная система искусственного интеллекта, обученная управлять игрой в Тетрис. Через какое-то время этот алгоритм понял совершенно самостоятельно, что когда уровень игры поднимается выше его возможностей, ему стоит только нажать на паузу и он уже не проиграет.

Такой вид придуманной машиной хитрости, является самым безобидным, но это полностью вписывается в прогнозы, выдвинутые специалистами Института будущего человечества. Ник Бостром (Nick Bostrom), основатель этого института, в свое время написал книгу под названием «Суперинтеллект /Superintelligence», которая является своего рода предупреждением всему человечеству. Это предупреждение заключается в том, что когда искусственный интеллект получит возможность неконтролируемого и ничем не ограниченного самообучения, он быстро разовьется до уровня, который во много раз превзойдет интеллектуальный уровень человечества. Такое событие было впервые описано в 1958 году ученым-математиком Стэнислоу Улэмом (Stanislaw Ulam) и оно, это событие, получило название «Сингулярность».

Разработанный учеными термин «прерывание безопасности» заключается в установке в недра вычислительной системы своего рода аппаратного предохранителя, который срабатывает в случае, если действия искусственного интеллекта становятся опасными для окружающих. Но в некоторых случаях система искусственного интеллекта сможет успеть развиться до уровня, когда она сможет эффективно противодействовать активации предохранителя, и ее, по мнению специалистов Google Deepmind и FoH, потребуется обмануть, как это часто и успешно делают люди.

Для того, чтобы реализовать все вышесказанное, специалисты, разрабатывающие системы искусственного интеллекта, должны установить «правила прерывания», спусковой механизм, который позволит «временно или на постоянной основе изменить поведение субъекта (ИИ) насильственным образом». Другими словами, это своего рода сигнал, наподобие ключевого слова, который должен заставить машину думать, что ей пора остановиться. Но машинный интеллект, развившийся выше определенного уровня, сможет воспротивиться такому побуждению, и следующим шагом станет следующая команда (скрипт, ключевое слово или нечто подобное) извне, которая должна заставить машину считать, что она уже внутренне согласилась с первым побуждением. Другими словами, это все является способом обойти автоматику или программы, которые перестали воспринимать команды от людей.

Исследователи отмечают, что сигналами к прерыванию деятельности систем искусственного интеллекта должны распоряжаться только люди, владеющие этими системами. Любые другие люди должны быть лишены возможности воспользоваться такими функциями. И реализация всего этого должна быть максимально проста, исследователи считают, что это может быть система дистанционного управления с одной единственной «аварийной красной кнопкой».

Но и такая технология защиты не будет эффективна при некоторых условиях. Если уровень развития системы искусственного интеллекта перешагнет определенный порог, то время будет упущено и система будет в состоянии просчитать все возможные варианты развития событий, удалить «правила прерывания» из своего собственного кода.

И в заключении следует отметить, что исследования, проведенные Google Deepmind и FoH, являются достаточно обобщенным, ведь на свете еще не существует вычислительной архитектуры, предназначенной для универсального искусственного интеллекта. Но такая архитектура несомненно появится в скором будущем и ее разработчики должны будут учесть в ней все подобные нюансы, установив набор необходимых аппаратных и программных предохранителей.

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Больше интересных новостей в социальных сетях.
Присоединяйтесь!

ОСТАВЬТЕ ОТВЕТ

Please enter your comment!
Please enter your name here

Материалы рубрики:

Один из офисов компании "Яндекс"

СБУ ищет в офисах «Яндекс» признаки государственной измены

По сообщениям украинских СМИ со ссылкой главу пресс-службы «Яндекса» Асю Мелкумовану, в киевском и одесском офисах компании «Яндекс.Украина» Служба безопасности Украины (СБУ) проводит обыски. В...
В Чили началось строительство самого большого в мире телескопаvideo

В Чили началось строительство самого большого в мире телескопа

   2
Из пустыни Атакама к инопланетной жизни. На горе Серро-Армасонес в Чили дали старт строительству "Европейского экстремально большого телескопа", - сообщает информационная программа "Новое время"....
Реактивный ранец позволяет людям пролетать сотни метров со скоростью 50 км/чvideo

Реактивный ранец позволяет людям пролетать сотни метров со скоростью 50 км/ч

   21
Его называют настоящим "Железным человеком". Британец Ричард Браунинг разработал костюм для полетов, в котором он действительно напоминает персонажа супергеройского кино, - сообщает информационная программа...
Subaru оснащает свои машины внешними подушками безопасностиvideo

Subaru оснащает свои машины внешними подушками безопасности

   24
Японская фирма Subaru провела на своем предприятии в городе Ота серию краштестов для проверки эффективности внешних подушек безопасности, которыми она комплектует новые автомобили, -...
В Чехии создали беспилотник, который может находиться в воздухе 9 часовvideo

В Чехии создали беспилотник, который может находиться в воздухе 9 часов

   184
Чешский авиастроительный стартап Primoco UAV разработал беспилотник, который может находиться в воздухе более девяти часов к ряду, - сообщает информационная программа "Новое время". Это...
На АЭС Фламанвиль во Франции произошел взрыв

Во Франции и Швейцарии решают будущее атомной энергетики этих стран

Франция будет пытается сократить к 2025 году до 50% долю производимой АЭС электроэнергии в своем энергетическом балансе. Об этом заявил новый министр экологии Франции...
Больше материалов


Свежие новости

Ханс-Георг Маассен

Руководитель контрразведки ФРГ хочет сохранить сотрудничество со спецслужбами США

Руководитель Федерального ведомства по защите конституции Ханс-Георг Маассен считает необходимым и важным дальнейшее тесное сотрудничество между немецкими и американскими спецслужбами. Об этом он сказал в...
Один из офисов компании "Яндекс"

СБУ ищет в офисах «Яндекс» признаки государственной измены

По сообщениям украинских СМИ со ссылкой главу пресс-службы «Яндекса» Асю Мелкумовану, в киевском и одесском офисах компании «Яндекс.Украина» Служба безопасности Украины (СБУ) проводит обыски. В...
Британские полицейские

Теракт в Манчестере: ошибки контрразведки исправляет полиция

По подозрению в причастности к совершенному в Манчестере теракта британская полиция утром в понедельник, 29 мая, задержала еще одного мужчину. По информации правоохранителей, задержание...
На встрече Макрона с Путиным ожидают "бескомпромиссный" диалог

На встрече Макрона с Путиным ожидают «бескомпромиссный» диалог

Сегодня в Версале состоится встреча президента Франции Эмманюэля Макрона и президента России Владимира Путина. Официальным поводом для встречи глав двух государств стало приглашение Макрона,...
"Золотую пальмовую ветвь" Каннского кинофестиваля получил фильм "Квадрат"

«Золотую пальмовую ветвь» Каннского кинофестиваля получила сатира на современное искусство

"Золотую пальмовую ветвь" - главную награду Каннского кинофестиваля - в 2017 году вручили ленте "Квадрат" (The Square) шведского режиссера Рубена Эстлунд. Об этом стало...