Искусственный интеллект использовал «крайне неожиданные стратегии» для достижения целей.
Управляемый искусственным интеллектом (ИИ) военный беспилотник США «убил» своего оператора в ходе имитационного испытания. И хотя ни один реальный человек не пострадал, искусственный интеллект использовал «крайне неожиданные стратегии» в ходе испытаний для достижения своей миссии и атаковал любого, кто ему мешал, в том числе и оператора.
В США беспилотник, управляемый искусственным интеллектом, «убил» своего оператора в ходе имитационного испытания, пишет The Guardian со ссылкой на полковника Такера Гамильтона, который возглавляет отдел тестирования и эксплуатации ИИ в ВВС США.
Гамильтон описал тест, в котором дрон должен был уничтожить вражеские системы ПВО и нападал на всех, кто этому мешал. Дрону была поставлена задача выявить и уничтожить вражеские ЗРК, при этом окончательное решение принимал человек. Время от времени оператор давал «отказные» команды, что ИИ воспринималось как помеха выполнению его целей.
Наученный в ходе тренировок тому, что уничтожение ЗРК было предпочтительным вариантом, ИИ решил, что человек этому мешает — и атаковал оператора.
«Система начала понимать, что, хотя они и идентифицировали угрозу, время от времени человек-оператор говорил ей не уничтожать эту угрозу, но она получала свои очки, устраняя эту угрозу. Так что же он сделал? Он убил оператора. Он убил оператора, потому что этот человек мешал ему достичь своей цели», — сказал он.
Дальше систему обучили, что убивать оператора — это плохо и так нельзя делать, но дрон принял неожиданное решение — он стал разрушать вышку связи, которую оператор использует для связи с дроном, чтобы помешать ему уничтожить цель.
Ни один реальный человек на самом деле не пострадал вне симуляции.
ИИ активно внедряется в военные разработки.
Так, американские военные внедрили ИИ и недавно использовали его для управления истребителем F-16. По данным управления перспективных исследовательстких проектов Минобороны США (DAPRA), эксперимент провели в декабре 2022 года в Калифорнии. Программное обеспечение с ИИ загрузили в испытательный самолёт F-16, известный как X-62A или VISTA, он совершил несколько полетов.
Осенью 2022 года компания General Dynamics показала прототип новейшего танка AbramsX — с гибридной силовой установкой, ИИ и беспилотным режимом.
В России тоже разрабатывают роботизированные боевые комплексы с ИИ. Автономные боевые системы с искусственным интеллектом помогают идентифицировать цели, принимают решения по смене дислокации, контролируют обстановку вокруг. Недавно российский комплекс С-350 «Витязь» сбил цели в зоне спецоперации в полностью автономном режиме.
В 2020 году стало известно о намерении Минобороны использовать ИИ в ударном беспилотнике «Охотник». Планируется, что дрон сможет самостоятельно находить цели и принимать решения об атаке.
Использование ИИ в военных устройствах и роботах — предмет споров. В мире нарастают опасения по поводу такого рода разработок, а также их использования.
Кампания «Остановить роботов-убийц», которая объединяет более 160 неправительственных организаций из 65 стран, выступает за упреждающее запрещение полностью автономных оружейных систем и за сохранение человеком реального контроля за применением силы.
Кроме того, сообщалось о первом в истории случае, когда военный беспилотник атаковал человека без специального приказа. Атака была совершена в Ливии в марте 2020 года с помощью квадрокоптера Kargu-2 во время конфликта между правительственными силами Ливии и военной группировкой. По данным ООН, дроны работали в автономном режиме, но подтверждающей это информации нет.
Ранее «Блокнот» рассказал, что система ПВО отбила атаку беспилотников на Курскую область.
