В шаге от ядерной войны: ошибка нейросети могла привести к конфликту США и Китая

Иллюстрация: "Блокнот"

Аналитический отчет, сгенерированный ИИ, чуть не устроил мировую войну.

Весной этого года Вооружённые силы США едва не провели операцию по перехвату китайского судна из-за ошибки искусственного интеллекта. Как сообщает CNN, ИИ ошибочно сообщил, что судно перевозит компоненты для иранской программы ядерного оружия. После получения отчёта американские военные незамедлительно приступили к планированию действий и готовились подняться на борт корабля, а в воздух были подняты военные самолёты. Лишь незадолго до старта операции чиновники решили более тщательно изучить отчёт, составленный аналитиком командования спецопераций, и выяснили, что он был сгенерирован ИИ. Чат-бот, которым воспользовался аналитик, неверно идентифицировал материал, который перевозило судно.

Один из источников CNN заявил, что отчёт был «полностью ложным и почти развязал войну». Телеканал отмечает, что любая операция США против китайского судна потенциально могла перерасти в вооружённый конфликт между двумя странами. При этом обе страны обладают ядерным оружием. Последствия такого конфликта могли быть катастрофическими для всего мира.

Телеканал также указывает, что американские чиновники стремятся внедрить ИИ почти во все аспекты работы армии и разведки, включая обработку «сырых данных» и выбор целей для ударов. Военный аналитик попросил у чат-бота разведданные о манифесте судна, и ИИ, объединив открытые источники с секретной информацией, пришёл к неверному выводу, после чего аналитик использовал его для формирования отчёта и передал руководству.

Напомним, Трамп подписал указ об «адских санкциях» против РФ.