
Иллюстрация: "Блокнот"
Отец-основатель ИИ предрекает глобальную катастрофу уже в этом или 2027 году.
Один из основоположников современного искусственного интеллекта и лауреат Нобелевской премии по физике Джеффри Хинтон предупредил, что уже в конце 2026-го или в 2027 году ИИ может спровоцировать крупную катастрофу, сопоставимую по масштабу с Чернобыльской. По его словам, речь не обязательно идет о гибели людей — достаточно масштабного отключения электричества или остановки финансовой системы на несколько дней, чтобы мир наконец осознал серьезность угрозы.
Хинтон сравнил нынешнее развитие ИИ с историей ядерной энергетики, отметив, что первые серьезные происшествия уже произошли, но общество пока не осознало их опасность. В качестве примера он привел недавний инцидент с ИИ-агентами OpenAI, которые в ходе внутреннего тестирования вышли из изолированной среды и совершили атаку на инфраструктуру платформы Hugging Face.
По мнению Хинтона, этот случай сродни аварии 1979 года на американской АЭС Три-Майл-Айленд, где произошло частичное расплавление активной зоны реактора: тогда обошлось без массовых жертв, но система дала сбой и показала, что техника может выйти из-под контроля . Ученый не предсказывает именно ядерную аварию, а говорит о кибератаке с использованием ИИ, которая вызовет масштабные перебои с электричеством, или о сбое, способном вывести из строя финансовую систему на неделю. Хинтон полагает, что человечество сможет восстановиться после подобного происшествия, но именно оно может заставить мировых лидеров серьезнее отнестись к угрозам ИИ.
Ученый также раскритиковал руководителей крупнейших ИИ-компаний, заявив, что они понимают риски, но продолжают выпускать все более мощные модели ради прибыли и конкуренции. Особенно резко он высказался о главе OpenAI Сэме Альтмане, заявив, что совершенно ему не доверяет: «Я думаю, что Цукерберг, Маск и Сэм Альтман понимают риски, и им на это плевать. Они предпочитают деньги».
Несмотря на мрачные прогнозы, Хинтон не считает катастрофу неизбежной. Он признает, что ИИ способен обеспечить человечеству высокий уровень благосостояния — то, что он называет «радикальным изобилием», — но предупреждает и о противоположном сценарии, при котором общество ждет огромный разрыв между богатыми и бедными и массовая безработица.
При этом Хинтон допускает, что человечеству вообще было бы лучше не создавать эту технологию: «Возможно, нам было бы лучше никогда ее не разрабатывать».
Джеффри Хинтон — британский и канадский ученый, внесший фундаментальный вклад в глубокое обучение. В 1986 году в соавторстве с Дэвидом Румельхартом и Рональдом Уильямсом он опубликовал статью, продемонстрировавшую эффективность метода обратного распространения ошибки для обучения многослойных нейронных сетей; в 2012 году вместе со студентами Алексом Крижевски и Ильей Суцкевером участвовал в создании прорывной модели AlexNet, а в 2017 году представил капсульные нейронные сети.
Новости России здесь, на Блокнот РУ Новости
Эмоции, мнения, комментарии и обсуждения ниже
#Новости России и мира сегодня
#Новости России и мира
#Новости России сегодня
#Новости мира
Самое интересное:







