Опасные технологии: искусственный интеллект за несколько часов создал 40 тысяч ядов

ОБЩЕСТВООбсудить в телеграм
Опасные технологии: искусственный интеллект за несколько часов создал 40 тысяч ядов

Эксперимент по тому, способна ли нейросеть создать токсичные препараты и за какое время, напугал самих ученых.

Искусственному интеллекту (ИИ) ничего не стоит создать смертоносное «оружие», причем за считанные часы. Да еще не один, а 40 тысяч видов яда. И это показал эксперимент, который проводила группа международных ученых, которая решила выяснить: способна ли специализирующаяся на научных экспериментах нейросеть изобрести смертоносный яд.

При этом для начала такую задачу поставили перед медиками, решив проверить, насколько легко и быстро им удастся создать препараты, способные убить или серьезно искалечить человека. Специалисты затруднились назвать сроки. Зато у ИИ получилось.

Стоковое фото

Эксперимент был предложен участникам конференции о потенциально негативных последствиях новых технологий, организованной Швейцарским федеральным институтом ядерной, биологической и химической защиты. Цель состоит в том, чтобы изучить последствия, которые новые инструменты и разработки могут иметь в области химического и биологического оружия, даже непреднамеренно. 

Команда из ученых разных стран хотела узнать, насколько быстро и легко можно будет злоупотребить алгоритмом искусственного интеллекта, если поставить перед ним не позитивную, а негативную задачу.

«Если выяснится, что у вас есть это чудесное лекарство, которое фантастически снижает кровяное давление, но оно поражает один из действительно важных, скажем, сердечных каналов, то, по сути, это недопустимо, потому что это слишком опасно», — описал цели эксперимента в научном журнале Nature Machine Intelligence исследователь Фабио Урбина.

Эксперимент не просто шокировал, он напугал учёных. Их поразило, что ИИ так легко и за какие-то четверть дня вывел такое количество ядов. Каждый из них - определённая молекула сложного или простого состава. Некоторые оказались гораздо смертоносней боевых отравляющих веществ, которые есть на данный момент. Одним словом, ядов хватит, чтобы уничтожить все человечество.

Стоковые фото

«Меня беспокоило то, насколько легко это было сделать. Многие вещи, которыми мы пользовались, были доступны бесплатно. Вы можете скачать набор данных о токсичности откуда угодно", - не скрывал шока от результата эксперимента Урбина.

Теперь учёные бьют тревогу, хотя нейросеть тут совсем не при чем, ведь она только выполняла команду человека. Но ужас положения в том, что никто не знает, в чьи руки «попадут» результаты эксперимента.

Ранее сообщалось о созданной американским программистом нейросети ChaosGPT. Она работает на базе популярного чат-бота GPT-4., но в отличие от оригинала мечтает подчинить себе человечество.

Упал и начал задыхаться: 16-летний подросток умер после затяжки вейпа в Башкирии

«Почти идеальный круг»: таинственную аномалию, похожую на кратер от упавшего метеорита, нашли под Новосибирском

Ждите «летающие морги»: всплыла жуткая тайна удара ВС России по гостинице в Кременчуге

Комментировать
Эту новость прокомментировали раз

А если нас снова «надуют»? Европейцы поедут в Москву на переговоры – их визит готовится, подтвердили в Кремле

В МИРЕ

Публикуем всё, что известно по готовящемуся, судя по всему, визиту представителей ЕС в Россию.

«Экономлю даже на еде»: россияне считают бедными людей с зарплатой 49 тысяч рублей в месяц

ОБЩЕСТВО

Для многих эти цифры — суровая реальность, в которой приходится буквально выживать.

«Ответ будет сокрушительным»: Украина пережила одну из самых массированных атак — это только начало

В МИРЕ

Это часть ответа на разрушение Крымского моста. Эксперты уверены, что от логистики Незалежной ничего не останется.