Носорог вместо флага и герба России: почему наши нейросети стыдятся государственных символов

Коллаж "Блокнота".

По запросу «флаг России» или «герб России» пользователи получают отказ, иногда – в форме носорога.

Российские нейросети не просто теряют пользователей из-за множества внутренних ограничений. Ко всему прочему, они, словно, стыдятся государственных символов РФ. Если попросить «иностранцев» сделать наш герб или флаг, то ИИ без проблем выдаст картинку. А вот «наши» или просто отказываются, или выдают еще и «носорога», уточняя что герб и флаг России нарушают правила площадки.

Проблема далеко не новая. Еще в 2023-м депутат Госдумы Сергей Миронов возмутился тем, что нейросеть «Сбера» Kandinsky 2.1 ни разу не представила российский триколор при запросе на «российский флаг», а при запросе «Донбасс — это Россия» выдает украинские цвета. Сергей Миронов даже обратился к генеральному прокурору РФ Игорю Краснову, выражая сомнения в соответствии деятельности «Сбера» российскому законодательству. Он считал, что нейросеть создавала контент, способствующий формированию негативного образа России. И указывал на отсутствие соответствия цветам российского флага при генерации изображений.

В ответ бывший советник президента РФ по вопросам развития интернета Герман Клименко объяснял, что «нейросети вообще не при чем: они генерируют контент исходя из запроса, разработчики не могут отвечать за желания пользователей». Логику не все поняли. И Клименко уточнил, что и у других нейросетей есть рамки: мол, в Midjourney, к примеру, нельзя сгенерировать изображение Си Цзиньпина, а вот Байдена или Путина — можно:

«Это частные самозапреты самой нейросети, введенные по каким-то их личным причинам. Эта история имеет отношение к законам каждой отдельной страны. Разработчики хотят распространяться в Китае, вот они и ввели такое правило, а для Америки им это не мешает».

Впрочем, из ответа осталось непонятно – кто запрещает в России создавать государственный флаг или герб? Оказалось, что владелец ИИ Kandinsky – Сбербанк: он внёс изменения в работу нейросети Kandinsky 2.1 после того, как сотрудников банка вызвали в прокуратуру из-за изображения на флаге России куполов собора Василия Блаженного. После обращения депутатов Госдумы и разбирательства в прокуратуре, «Сбер» откорректировал настройки безопасности сети, уменьшив её креативность и точность.

Греф тогда подчеркнул необходимость понимания со стороны властей того, что нейросети все ещё находятся в стадии обучения, и сравнил их с «детьми малыми».

И вот прошло два года. «Дети» подросли, но пользователи Сети пишут о том, что проблема осталась прежней. Телеграмм-канал «Русский националист» задается вопросом: «Сбербанк всё ещё наш или уже не наш?» Дело в том, что администратор ТГ-канала хотел заказать дизайн дебетовой карты с гербом РФ, но получил ответ:

«Такого дизайна, к сожалению, пока нет в доступных». Зато можно выбрать «белый зайчик в лесу сидит, зима, спокойные цвета».

«Русский националист» возмутился:

«С каких пор для нейросети изображение государственного герба это нарушение?»

А в ответ получил следующее:

«В документах «Условия выпуска и обслуживания дебетовой карты ПАО Сбербанк» и «Открытие и обслуживание «Платёжного счёта» ПАО Сбербанк» установлены правила выбора изображений для карт. Изображения, которые могут разжигать межнациональную, межэтническую или межконфессиональную рознь, а также политические, религиозные лозунги и символы не могут быть а использованы на картах».

Тогда клиент задал вопрос, который так и остался без ответа:

«То есть государственная символика разжигает ненависть и относиться к политическим лозунгам?»

Автор канал предложил своим подписчикам писать в поддержку:

«Будьте конструктивны и корректны в высказываниях, если найдете ответ на вопрос, то присылайте - опубликуем. Очень уж интересно знать, каким таким образом Русский Герб может что-то разжигать».

К сожалению, не только Сбербанк отказывается использовать государственные символы. Сейчас в Сети очень много предложений по созданию картинок с помощью ИИ. И если попросить, скажем, французскую сеть Реве создать флаг России, она это сделает без проблем.

А вот запрос в российский «Шедеврум» зайдет в тупик. Этот ИИ считает, что создание как флага, так и герба России нарушает «правила площадки». Вместо герба и флага – выдает носорога, который символизирует отсутствие результата генерации.

Политолог Павел Данилин подходит к ситуации с точки зрения рынка. Он считает, что такой ситуации «наши нейросети проиграют»:

«Количество отказов в генерации наших нейросетей превышает все остальные нейросети мира. Это нормально - я заходил на Кандинского, на ФьюжнМайнд, пытался работать с ними. Но, когда отказы идут через одного - да ну их. Я захожу к китайцам и американцам, задаю запросы у них. Потому, что они на них отвечают. А Яндекс не отвечает. Соответственно, Яндекс теряет меня и мои запросы навсегда. И так же и с другими пользователями. Как результат наши нейросети теряют, а чужие – находят. Ну, что ж - это их выбор».

Впрочем, у проблемы есть еще одна сторона – политическая. Наша страна находится в плотной «осаде» санкций и попыток международной изоляции. Если бы европейские или американские ИИ отказывались генерировать наши государственные символы – это имело бы определенную логику. А когда так поступают «наши», невольно возникает вопрос: не является ли это попыткой провести разграничивающую черту между собственниками ИИ и Россией? И если да, то нет ли тут элементов идеологии предательства? Или нашим пользователям, действительно, не нужно иметь возможность генерировать собственные флаг и герб?