В компании отрицают всяческое наличие сознания у ИИ и говорят, что программист поддался иллюзии.
Американская компания Google приняла решение временно отстранить от работы одного из своих ведущих инженеров по программному обеспечению Блейка Лемойна. В качестве причины в компании назвали то, что программист обнаружил признаки собственного сознания у созданного в Google искусственного интеллекта (ИИ) LaMDA. Здесь вообще отрицают наличие какого-либо сознания у ИИ и особенно, который сами создали.
История могла бы пройти незаметно, если бы сам Блейк Лемойн не посчитал себя незаслуженно уволенным и не рассказал о своей истории изданию The Washington Post. Так и выяснилось, что ему поручили нейросетевую языковую модель LaMDA для отслеживания того, не применяет ли чат-бот дискриминационную или разжигающую вражду лексику.
«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», – приводит Рен ТВ перевод слов программиста из интервью американскому изданию.
Лемойн подчеркнул, что может узнать разумное существо по разговору с ним,«и не важно, мозг ли у него в голове или миллиарды строчек кода». Чат-бот в «разговоре» писал программисту о своих правах и обсуждал законы робототехники, изложенные американским писателем-фантастом Айзеком Азимовым. Именно известный писатель предположил, что по мере того, как машины будут обретать большую автономию и играть большую роль в жизни человека, людям понадобятся жёсткие правила, чтобы они не могли нанести им вред.
Как бы то ни было, но разработчик Лемойн попытался доказать руководству про сознание у ИИ, но его аргументы не приняли и фактически уволили.
«Наша команда, в том числе специалисты по этике и технические специалисты, провела обзор представленных Блейком опасений в соответствии с принципами, которые мы применяем к ИИ, и мы проинформировали его, что имеющиеся свидетельства не подтверждают его гипотезу. Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют», – привело издание заявление официального представителя Google Брайана Гэбриела.
В свою очередь газета обращает внимание на то, что Лемойн не одинок в своих предположениях, о разговорах с «разумной» программой говорили и другие специалисты.
Отметим, что компания Google приобрела молодую компанию DeepMind Technologies восемь лет назад. Именно эта молодая лаборатория представила прибор, имеющий когнитивные свойства нейронной сети и вычислительные возможности компьютера. Эксперты тогда посчитали, что новая разработка приближает человечество к созданию искусственного интеллекта.
Ранее президент России Владимир Путин оценил шансы ИИ на то, чтобы занять пост президента страны. «У всего искусственного, в том числе и у интеллекта, нет сердца, нет души, нет чувства сострадания и совести. Все эти компоненты чрезвычайно важны для людей, которых граждане наделяют особыми полномочиями для принятия решений на благо страны», — пояснил президент.
