Причем, произойдёт это в ближайшие 50 лет.
Каждый третий россиянин верит, что в ближайшие 50 лет произойдет «восстание машин», а нейросети выйдут из-под контроля. Исследования показывают, что такой сценарий вполне возможен. Верит в это даже знаменитый предприниматель Илон Маск.
«Восстанием машин» называют один из футурологических сценариев развития технократического общества. Это один из возможных сценариев апокалипсиса, описывающий конец света по причине ставшего враждебным искусственного интеллекта, ранее созданного людьми. Сценарий подразумевает собой полную потерю контроля над искусственным интеллектом (ИИ), различными механизмами и устройствами, в следствии чего последние перестали выполнять свои задачи и начали преследовать свои цели.
Опрос, проведенный Всероссийским центром изучения общественного мнения (ВЦИОМ), показал, что 63% россиян знают о нейросетях, при этом 12% — хорошо осведомлены о них, а 51% — «что-то слышали». В ходе опроса впервые услышали о нейросетях 37% респондентов.
40% относятся к таким технологиям нейтрально, 35% — положительно. Отрицательно воспринимает нейросети каждый пятый россиянин (20%).
Типичный россиянин, одобряющий нейросети, это мужчина 18-24 или 25-34 лет, активный пользователь интеренета, с высшим образованием, житель Москвы или Санкт-Петербурга. Негативное восприятие типично для женщин 45-59 лет, любящих смотреть телевизор и характеризующих материальное положение семьи как плохое.
В то, что благодаря нейросетям роботы поработят мир, верят тоже многие. Не верят в это 59% опрошенных, а вот каждый третий (30%) убежден, что такое может случиться, причём в ближайшие 50 лет.
Меньше боятся технологий те, кто с ними «дружит»: о невозможности «восстания машин» чаще говорят те, кто хорошо разбирается в теме нейросетей (73%) и активные пользователи интернета (72%). При этом большая часть считающих «восстание машин» вероятным сценарием уже в ближайшем будущем приходится на тех, кто отрицательно относится к нейросетям. Таких 49% (каждый второй).
Получается, что в восстание машин верят те, кто ничего не знает? Не совсем так. Опасаются нейросетей и те, кто с ними очень хорошо знаком. Например, знаменитый предприниматель Илон Маск. Он, а также ряд других известных людей, считают, что нужно немедленно приостановить обучение искусственного интеллекта, иначе цивилизация рухнет в ближайшие годы. В заявлении на сайте организации Future of Life сказано, что искусственный интеллект, достигнув определённого уровня, может посчитать нас лишними на планете.
«Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Эта пауза должна быть публичной и действительной. Если же подобная приостановка не может быть сделана быстро, правительства государств должны вмешаться и ввести мораторий», - говорится в открытом письме.
Кроме Маска, письмо подписали глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк.
Илон Маск об опасности нейросетей говорит не первый год. Он ещё в 2017 году заявлял, что «пока люди не увидят, как роботы идут по улице, убивая людей, они не узнают, как реагировать». Тогда же он добавил, что к тому времени, когда мы будем реагировать на ошибки ИИ, будет уже слишком поздно. А недавно он снова высказался на эту тему, напомнив анекдот о разработчиках искусственного интеллекта.
«Агностики построили искусственный сверхинтеллект, чтобы узнать, есть ли бог. Они заканчивают, задают ему вопрос, и он отвечает: «Теперь есть!», — написал Маск в твиттере.
И опасаться есть за что — ведь если сейчас ИИ просто рисует картинки, пишет тексты и коды, то в будущем будет массово водить машины, самолёты и принимать другие важные решения. В марте этого года Пентагон разрешил искусственному интеллекту самому принимать решения о необходимости убийства людей. После долгих лет запретов США упразднили административные запреты и этические нормы,которые мешали разрабатывать и применять боевых роботов, способных самостоятельно решать, кого убивать, а кого миловать.
Похожие решения можно ждать в других сферах и странах. В конце концов, жизнь человека станет похожей на фантастические фильмы: ИИ решает, что есть, выбирая на основе алгоритмов самое полезное, выбирает что носить и как проводить время и даже решает, с кем общаться (ну а почему бы и нет). Ну а потом люди станут совсем ненужными. Нейросети сейчас помогают людям, а позже смогут и вовсе их заменить — первые 10 профессий, которых лишится человек, уже известны.
