ИИ Grok оказался в центре международного скандала из-за сексуализированных дипфейков

Поводом для скандала стал запуск кнопки «edit image», которая позволяла изменять изображения по текстовым подсказкам — в том числе с запросами вроде «раздень её» или «надень на неё бикини». Это вызвало шквал жалоб со стороны пользователей, правозащитников и властей разных стран пишет Techxplore.

Реакция ЕС и Великобритании

Европейская комиссия заявила, что внимательно изучает жалобы на работу Grok. Представитель Еврокомиссии по цифровым вопросам Томас Ренье назвал ситуацию недопустимой:

«Grok предлагает так называемый “spicy mode”, который генерирует откровенный сексуальный контент, включая изображения с детскими чертами. Это не “остро”. Это незаконно. И этому не место в Европе».

В Великобритании медиарегулятор Ofcom сообщил о срочном обращении к X и xAI с требованием разъяснить, какие меры приняты для защиты пользователей. Ведомство не исключило начала официального расследования.

Расследования и давление со стороны стран

Франция, Индия и Малайзия также отреагировали на происходящее. Во Франции прокуратура расширила расследование в отношении X, включив новые обвинения, связанные с возможным распространением детской порнографии с помощью ИИ.

Индийские власти потребовали от X удалить незаконный контент, заблокировать нарушителей и в течение 72 часов отчитаться о принятых мерах. Срок истёк, однако официальной информации о реакции компании пока нет.

Малайзийский регулятор связи заявил о «серьёзной обеспокоенности» и сообщил о намерении вызвать представителей X для объяснений.

«Это пугающе и незаконно»

Пользователи X также активно высказывались против работы инструмента. Малазийский юрист Азира Азиз рассказала, что Grok изменил её фото без согласия, переодев в бикини.

«Безобидные эксперименты с ИИ — это одно. Но когда технология используется как форма гендерного насилия против женщин и детей — это должно жёстко пресекаться», — заявила она в комментарии AFP.

Резонанс вызвало и заявление Эшли Сент-Клер, матери одного из детей Илона Маска, которая написала, что Grok «раздевает её детские фотографии».

Ответ Grok и xAI

На фоне скандала Grok признал наличие проблем с защитными механизмами и сообщил, что срочно устраняет уязвимости. Компания подчеркнула, что материалы, связанные с сексуальным насилием над детьми, строго запрещены.

Ранее Grok уже приносил извинения за генерацию изображения двух несовершеннолетних девочек в сексуализированной одежде по запросу пользователя.

При этом официальный ответ xAI на запрос AFP был лаконичным и содержал лишь фразу: «Legacy Media Lies»(«Ложь традиционных СМИ»).

Не первый скандал вокруг Grok

Критика вокруг Grok нарастает не впервые. Ранее ИИ обвиняли в распространении дезинформации о войне в Газе, конфликте между Индией и Пакистаном, а также о стрельбе в Австралии.

Эксперты отмечают, что ситуация усиливает дискуссию о необходимости более жёсткого регулирования генеративного ИИ и ответственности платформ за контент, создаваемый их инструментами.