«Авось пожалеет родителей»: Медведев рассказал, чем создателям ИИ может обернуться «восстание машин»

Фото: Блокнот

Одна ошибка системы на производстве, в авиации или на АЭС способна привести к катастрофе.

Искусственный интеллект развивается слишком быстро, а опасения по поводу его будущего вполне реальны. Об этом заявил зампред Совбеза РФ Дмитрий Медведев, рассуждая о рисках развития современных технологий.

По его словам, создатели ИИ всё чаще говорят о том, что человечество «поторопилось», а искусственный интеллект становится непредсказуемым и развивается по не до конца понятным законам.

«Искусственный интеллект опасен, непредсказуем и слишком быстро развивается по не вполне ясным нам законам», — отметил Медведев.

При этом политик считает, что разработчики генеративного ИИ «лукавят», когда говорят об угрозе уничтожения человечества. По его мнению, гораздо более реальная опасность связана с использованием ИИ в критически важных сферах.

«Они боятся не за нас с вами и не за Sapiens в целом», — написал Медведев.

Продвинутая система ИИ может управлять крупным производством или транспортным узлом, и её ошибка способна привести к катастрофе. Например, искусственный интеллект может спровоцировать столкновение самолётов или уничтожить АЭС.

«И тогда придут уже за создателями generative AI. И предъявят многомиллиардные иски. А то и просто размажут мозги (человеческие) по стенке», — предупредил зампред Совбеза.

Одним из решений Медведев считает международные договорённости об общих принципах регулирования ИИ. Это, по его мнению, дало бы человечеству хотя бы некоторый шанс контролировать развитие технологии. Однако конкуренция и интересы корпораций могут помешать странам договориться.

В итоге остаётся надеяться на то, что будущий сверхразум окажется достаточно гуманным.

«У него пока нет явных эмоций, но, каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей…» — заключил Медведев.

Ранее Медведев снова опроверг слухи о новой мобилизации в России.