Эксперимент по тому, способна ли нейросеть создать токсичные препараты и за какое время, напугал самих ученых.
Искусственному интеллекту (ИИ) ничего не стоит создать смертоносное «оружие», причем за считанные часы. Да еще не один, а 40 тысяч видов яда. И это показал эксперимент, который проводила группа международных ученых, которая решила выяснить: способна ли специализирующаяся на научных экспериментах нейросеть изобрести смертоносный яд.
При этом для начала такую задачу поставили перед медиками, решив проверить, насколько легко и быстро им удастся создать препараты, способные убить или серьезно искалечить человека. Специалисты затруднились назвать сроки. Зато у ИИ получилось.
Эксперимент был предложен участникам конференции о потенциально негативных последствиях новых технологий, организованной Швейцарским федеральным институтом ядерной, биологической и химической защиты. Цель состоит в том, чтобы изучить последствия, которые новые инструменты и разработки могут иметь в области химического и биологического оружия, даже непреднамеренно.
Команда из ученых разных стран хотела узнать, насколько быстро и легко можно будет злоупотребить алгоритмом искусственного интеллекта, если поставить перед ним не позитивную, а негативную задачу.
«Если выяснится, что у вас есть это чудесное лекарство, которое фантастически снижает кровяное давление, но оно поражает один из действительно важных, скажем, сердечных каналов, то, по сути, это недопустимо, потому что это слишком опасно», — описал цели эксперимента в научном журнале Nature Machine Intelligence исследователь Фабио Урбина.
Эксперимент не просто шокировал, он напугал учёных. Их поразило, что ИИ так легко и за какие-то четверть дня вывел такое количество ядов. Каждый из них - определённая молекула сложного или простого состава. Некоторые оказались гораздо смертоносней боевых отравляющих веществ, которые есть на данный момент. Одним словом, ядов хватит, чтобы уничтожить все человечество.
«Меня беспокоило то, насколько легко это было сделать. Многие вещи, которыми мы пользовались, были доступны бесплатно. Вы можете скачать набор данных о токсичности откуда угодно", - не скрывал шока от результата эксперимента Урбина.
Теперь учёные бьют тревогу, хотя нейросеть тут совсем не при чем, ведь она только выполняла команду человека. Но ужас положения в том, что никто не знает, в чьи руки «попадут» результаты эксперимента.
Ранее сообщалось о созданной американским программистом нейросети ChaosGPT. Она работает на базе популярного чат-бота GPT-4., но в отличие от оригинала мечтает подчинить себе человечество.
