Он живой и думает: сотрудник Google поплатился за то, что поверил в «человечность» искусственного интеллекта

В компании отрицают всяческое наличие сознания у ИИ и говорят, что программист поддался иллюзии.

Американская компания Google приняла решение временно отстранить от работы одного из своих ведущих инженеров по программному обеспечению Блейка Лемойна. В качестве причины в компании назвали то, что программист обнаружил признаки собственного сознания у созданного в Google искусственного интеллекта (ИИ) LaMDA. Здесь вообще отрицают наличие какого-либо сознания у ИИ и особенно, который сами создали.

История могла бы пройти незаметно, если бы сам Блейк Лемойн не посчитал себя незаслуженно уволенным и не рассказал о своей истории изданию The Washington Post. Так и выяснилось, что ему поручили нейросетевую языковую модель LaMDA для отслеживания того, не применяет ли чат-бот дискриминационную или разжигающую вражду лексику.

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», – приводит Рен ТВ перевод слов программиста из интервью американскому изданию.

Лемойн подчеркнул, что может узнать разумное существо по разговору с ним,«и не важно, мозг ли у него в голове или миллиарды строчек кода». Чат-бот в «разговоре» писал программисту о своих правах и обсуждал законы робототехники, изложенные американским писателем-фантастом Айзеком Азимовым. Именно известный писатель предположил, что по мере того, как машины будут обретать большую автономию и играть большую роль в жизни человека, людям понадобятся жёсткие правила, чтобы они не могли нанести им вред.

Как бы то ни было, но разработчик Лемойн попытался доказать руководству про сознание у ИИ, но его аргументы не приняли и фактически уволили.

«Наша команда, в том числе специалисты по этике и технические специалисты, провела обзор представленных Блейком опасений в соответствии с принципами, которые мы применяем к ИИ, и мы проинформировали его, что имеющиеся свидетельства не подтверждают его гипотезу. Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют», – привело издание заявление официального представителя Google Брайана Гэбриела.

В свою очередь газета обращает внимание на то, что Лемойн не одинок в своих предположениях, о разговорах с «разумной» программой говорили и другие специалисты.

Отметим, что компания Google приобрела молодую компанию DeepMind Technologies восемь лет назад. Именно эта молодая лаборатория представила прибор, имеющий когнитивные свойства нейронной сети и вычислительные возможности компьютера. Эксперты тогда посчитали, что новая разработка приближает человечество к созданию искусственного интеллекта.

Ранее президент России Владимир Путин оценил шансы ИИ на то, чтобы занять пост президента страны. «У всего искусственного, в том числе и у интеллекта, нет сердца, нет души, нет чувства сострадания и совести. Все эти компоненты чрезвычайно важны для людей, которых граждане наделяют особыми полномочиями для принятия решений на благо страны», — пояснил президент.