Роботы выходят из подчинения. Судный день человечества близок?

Похоже, Илон Маск, который предупреждал об опасности искусственного интеллекта, все-таки оказался прав. Ученые, проводившие эксперимент с участием роботов, говорят, что те вышли из

подчинения Поломка или порабощение человечества? Ученых поставило в тупик поведение роботов. Эксперимент проводили исследователи из Facebook. Его результаты заставили комментаторов вспомнить

фильмы о восстании машин. Чего хотят роботы? Ученые пытались обучить ботов искусству простейшего диалога. Они должны были торговаться и в итоге достичь компромисса. Например, один говорит

другому: мне нужна шапка и мячи. Тот ему отвечает: шапка мне нужна самому, но я могу дать тебе книги. Собеседник не соглашается: книги мне не нужны, забери их и один мяч… И так далее.

Сначала роботы послушно выполняли задания, но потом что-то пошло не так. «Для меня, для меня, для меня…» — начал твердить один робот. «Я могу, я все остальное», — похвастался электронный

собеседник. Ученые подумали, что ошиблись и ввели неправильный алгоритм. Но оказалось, что боты, которые способны к самообучению, решили упростить себе задачу. Эти бессмысленные фразы они

посчитали самым эффективным способом договориться. Михаил Бурцев заведующий лабораторией нейронных систем и глубокого обучения МФТИ Интернет-сообщество, впрочем, сделало другие выводы.

Новость облетела весь мир. И пользователи вспоминают фильмы о Терминаторе. Суперкомпьютер SkyNet выходит из подчинения, поэтому людям приходится посылать бойца в прошлое, чтобы предотвратить

восстание машин. Причем в одной из серий франшизы Судный день наступает в октябре 2017 года. И даже есть сходство в словах. Бот говорит: мне нужна шапка. А киногерою, как известно, была

«нужна твоя одежда». Впрочем, лепет роботов мог быть вызван элементарной поломкой, предполагает писатель-фантаст Леонид Каганов. Леонид Каганов писатель-фантаст Показательна реакция ученых.

Как только боты начали самовольничать, исследователи отключили систему во избежание непредвиденных последствий. Интересно, каких? СМИ заодно вспомнили, как недавно Марк Цукерберг поспорил с

Илоном Маском. Последний назвал искусственный интеллект фундаментальной угрозой человечеству. Основатель Facebook с ним не согласился. И так вышло, что нештатная ситуация с роботами

случилась именно у разработчиков Facebook. Конечно, верить больше хочется Цукербергу. Но и страшилка о поработителях человечества слишком въелась в сознание. Я даже, когда писал эти строки,

живо представлял, как получаю сообщение в личку от бота: «Не пиши об этом. Не надо».