Мочи своих: на испытаниях в США управляемый ИИ военный дрон «убил» своего оператора

Вооруженные силыПрокомментируйте новость
Мочи своих: на испытаниях в США управляемый ИИ военный дрон «убил» своего оператора

Искусственный интеллект использовал «крайне неожиданные стратегии» для достижения целей.

Управляемый искусственным интеллектом (ИИ) военный беспилотник США «убил» своего оператора в ходе имитационного испытания. И хотя ни один реальный человек не пострадал, искусственный интеллект использовал «крайне неожиданные стратегии» в ходе испытаний для достижения своей миссии и атаковал любого, кто ему мешал, в том числе и оператора.

В США беспилотник, управляемый искусственным интеллектом, «убил» своего оператора в ходе имитационного испытания, пишет The Guardian со ссылкой на полковника Такера Гамильтона, который возглавляет отдел тестирования и эксплуатации ИИ в ВВС США.

Гамильтон описал тест, в котором дрон должен был уничтожить вражеские системы ПВО и нападал на всех, кто этому мешал. Дрону была поставлена задача выявить и уничтожить вражеские ЗРК, при этом окончательное решение принимал человек. Время от времени оператор давал «отказные» команды, что ИИ воспринималось как помеха выполнению его целей.

Мочи своих: на испытаниях в США управляемый ИИ военный дрон «убил» своего оператора
Иллюстрация: "Блокнот"

Наученный в ходе тренировок тому, что уничтожение ЗРК было предпочтительным вариантом, ИИ решил, что человек этому мешает — и атаковал оператора.

«Система начала понимать, что, хотя они и идентифицировали угрозу, время от времени человек-оператор говорил ей не уничтожать эту угрозу, но она получала свои очки, устраняя эту угрозу. Так что же он сделал? Он убил оператора. Он убил оператора, потому что этот человек мешал ему достичь своей цели», — сказал он.

Дальше систему обучили, что убивать оператора — это плохо и так нельзя делать, но дрон принял неожиданное решение — он стал разрушать вышку связи, которую оператор использует для связи с дроном, чтобы помешать ему уничтожить цель.

Ни один реальный человек на самом деле не пострадал вне симуляции.

Мочи своих: на испытаниях в США управляемый ИИ военный дрон «убил» своего оператора
Фото: pixabay.com

ИИ активно внедряется в военные разработки.

Так, американские военные внедрили ИИ и недавно использовали его для управления истребителем F-16. По данным управления перспективных исследовательстких проектов Минобороны США (DAPRA), эксперимент провели в декабре 2022 года в Калифорнии. Программное обеспечение с ИИ загрузили в испытательный самолёт F-16, известный как X-62A или VISTA, он совершил несколько полетов.

Осенью 2022 года компания General Dynamics показала прототип новейшего танка AbramsX — с гибридной силовой установкой, ИИ и беспилотным режимом.

В России тоже разрабатывают роботизированные боевые комплексы с ИИ. Автономные боевые системы с искусственным интеллектом помогают идентифицировать цели, принимают решения по смене дислокации, контролируют обстановку вокруг. Недавно российский комплекс С-350 «Витязь» сбил цели в зоне спецоперации в полностью автономном режиме.

В 2020 году стало известно о намерении Минобороны использовать ИИ в ударном беспилотнике «Охотник». Планируется, что дрон сможет самостоятельно находить цели и принимать решения об атаке.

Использование ИИ в военных устройствах и роботах — предмет споров. В мире нарастают опасения по поводу такого рода разработок, а также их использования.

Кампания «Остановить роботов-убийц», которая объединяет более 160 неправительственных организаций из 65 стран, выступает за упреждающее запрещение полностью автономных оружейных систем и за сохранение человеком реального контроля за применением силы.

Кроме того, сообщалось о первом в истории случае, когда военный беспилотник атаковал человека без специального приказа. Атака была совершена в Ливии в марте 2020 года с помощью квадрокоптера Kargu-2 во время конфликта между правительственными силами Ливии и военной группировкой. По данным ООН, дроны работали в автономном режиме, но подтверждающей это информации нет.

Ранее «Блокнот» рассказал, что система ПВО отбила атаку беспилотников на Курскую область.

Почему США единолично не дали Палестине стать полноправным государством

И дать, и взять: Вашингтон раскрыл, что конкретно перепадет Украине из военной помощи на 60 млрд

«Будет много конфликтов»: Украина предупредила о Третьей мировой войне

Комментировать
Эту новость прокомментировали раз

Уже скоро? Мэр Харькова сообщил, что в городе началась настоящая паника

В МИРЕ

Население бежит из города, ожидая, что там начнутся ожесточенные бои.

История с мигрантом, зарезавшим москвича на глазах невесты, получила неожиданное продолжение

ОБЩЕСТВО

Московские следователи переквалифицировали дело на более тяжкую статью - убийство, совершенное группой лиц из хулиганских побуждений.

В Волгограде банда подростков снова избила пассажиров автобуса

РЕГИОНЫ

Хулиганов задержали, ближайшие 2 месяца они проведут за решеткой

"Ну и кто тут все-таки главный?": на Украине посмеялись над "влиятельным человеком планеты"

В МИРЕ

Журнал Time включил в топ-100 не президента Незалежной Владимира Зеленского, а его "продюсера" Андрея Ермака.