Опасные технологии: искусственный интеллект за несколько часов создал 40 тысяч ядов

ОБЩЕСТВОПрокомментируйте новость
Опасные технологии: искусственный интеллект за несколько часов создал 40 тысяч ядов

Эксперимент по тому, способна ли нейросеть создать токсичные препараты и за какое время, напугал самих ученых.

Искусственному интеллекту (ИИ) ничего не стоит создать смертоносное «оружие», причем за считанные часы. Да еще не один, а 40 тысяч видов яда. И это показал эксперимент, который проводила группа международных ученых, которая решила выяснить: способна ли специализирующаяся на научных экспериментах нейросеть изобрести смертоносный яд.

При этом для начала такую задачу поставили перед медиками, решив проверить, насколько легко и быстро им удастся создать препараты, способные убить или серьезно искалечить человека. Специалисты затруднились назвать сроки. Зато у ИИ получилось.

Стоковое фото

Эксперимент был предложен участникам конференции о потенциально негативных последствиях новых технологий, организованной Швейцарским федеральным институтом ядерной, биологической и химической защиты. Цель состоит в том, чтобы изучить последствия, которые новые инструменты и разработки могут иметь в области химического и биологического оружия, даже непреднамеренно. 

Команда из ученых разных стран хотела узнать, насколько быстро и легко можно будет злоупотребить алгоритмом искусственного интеллекта, если поставить перед ним не позитивную, а негативную задачу.

«Если выяснится, что у вас есть это чудесное лекарство, которое фантастически снижает кровяное давление, но оно поражает один из действительно важных, скажем, сердечных каналов, то, по сути, это недопустимо, потому что это слишком опасно», — описал цели эксперимента в научном журнале Nature Machine Intelligence исследователь Фабио Урбина.

Эксперимент не просто шокировал, он напугал учёных. Их поразило, что ИИ так легко и за какие-то четверть дня вывел такое количество ядов. Каждый из них - определённая молекула сложного или простого состава. Некоторые оказались гораздо смертоносней боевых отравляющих веществ, которые есть на данный момент. Одним словом, ядов хватит, чтобы уничтожить все человечество.

Стоковые фото

«Меня беспокоило то, насколько легко это было сделать. Многие вещи, которыми мы пользовались, были доступны бесплатно. Вы можете скачать набор данных о токсичности откуда угодно", - не скрывал шока от результата эксперимента Урбина.

Теперь учёные бьют тревогу, хотя нейросеть тут совсем не при чем, ведь она только выполняла команду человека. Но ужас положения в том, что никто не знает, в чьи руки «попадут» результаты эксперимента.

Ранее сообщалось о созданной американским программистом нейросети ChaosGPT. Она работает на базе популярного чат-бота GPT-4., но в отличие от оригинала мечтает подчинить себе человечество.

Обстоятельства гибели 50-летнего актера до сих пор не выяснены: 28 мая родился Андрей Панин

Ставшая звездой в Китае Татьяна Дмитриева умерла в 31 год из-за обезболивающих таблеток

Отец Фриске раскрыл жуткие подробности лечения их скончавшейся от онкологии родственницы

Комментировать
Эту новость прокомментировали раз

Алсу подала на развод с мужем спустя 18 лет брака

КУЛЬТУРА

Слухи о расставании пары ходили уже давно

«Сегодня летают, значит ждем еще прилеты»: Украина хочет сорвать курортный сезон в России

В МИРЕ

Всё чаще во время СВО Киев совершает атаки на курортные города Крыма и Краснодарского края.

Про мигрантов не забыли: зачем Путин полетел в Узбекистан

ПОЛИТИКА

Политологи увидели в приглашении президента Шавката Мирзиеева российского коллегу сигнал лидерам среднеазиатских республик.

Политолог: из-за массовой мобилизации Украину ждет коллапс

В МИРЕ

Оставшиеся в Незалежной мужчины не хотят воевать за Зеленского.

Назад в прошлое: Социальное настроение россиян незаметно меняется

ОБЩЕСТВО

Анализ современного российского общества от депутата Госдумы 3,4,5 и 6 созывов Олега Шеина

«Сгорели заживо, чтобы этим мразям сдохнуть также»: в Уфе нелюди подожгли частный приют для собак

ЧП

Владельцы приюта и волонтеры надеются, что виновных в поджоге найдут и приговорят к реальным срокам