ШІ Grok опинився в центрі міжнародного скандалу через сексуалізовані діпфейки

Приводом для скандалу став запуск кнопки "edit image", яка давала змогу змінювати зображення за текстовими підказками - зокрема із запитами на кшталт "роздягни її" або "одягни на неї бікіні". Це викликало шквал скарг з боку користувачів, правозахисників і влади різних країн, пише Techxplore.

Реакція ЄС і Великої Британії

Європейська комісія заявила, що уважно вивчає скарги на роботу Grok. Представник Єврокомісії з цифрових питань Томас Реньє назвав ситуацію неприпустимою:

"Grok пропонує так званий "spicy mode", який генерує відвертий сексуальний контент, включно із зображеннями з дитячими рисами. Це не "гостро". Це незаконно. І цьому не місце в Європі".

У Великій Британії медіарегулятор Ofcom повідомив про термінове звернення до X і xAI з вимогою роз'яснити, яких заходів вжито для захисту користувачів. Відомство не виключило початку офіційного розслідування.

Розслідування і тиск з боку країн

Франція, Індія і Малайзія також відреагували на те, що відбувається. У Франції прокуратура розширила розслідування щодо X, включивши нові звинувачення, пов'язані з можливим поширенням дитячої порнографії за допомогою ШІ.

Індійська влада зажадала від X видалити незаконний контент, заблокувати порушників і протягом 72 годин відзвітувати про вжиті заходи. Термін минув, проте офіційної інформації про реакцію компанії поки немає.

Малайзійський регулятор зв'язку заявив про "серйозну стурбованість" і повідомив про намір викликати представників X для пояснень.

"Це лякаюче і незаконно"

Користувачі X також активно висловлювалися проти роботи інструменту. Малазійський юрист Азіра Азіз розповіла, що Grok змінив її фото без згоди, переодягнувши в бікіні.

"Нешкідливі експерименти з ШІ - це одне. Але коли технологія використовується як форма гендерного насильства проти жінок і дітей - це має жорстко припинятися", - заявила вона в коментарі AFP.

Резонанс викликала і заява Ешлі Сент-Клер, матері одного з дітей Ілона Маска, яка написала, що Grok "роздягає її дитячі фотографії".

Відповідь Grok і xAI

На тлі скандалу Grok визнав наявність проблем із захисними механізмами і повідомив, що терміново усуває вразливості. Компанія підкреслила, що матеріали, пов'язані з сексуальним насильством над дітьми, суворо заборонені.

Раніше Grok уже вибачався за генерацію зображення двох неповнолітніх дівчаток у сексуалізованому одязі за запитом користувача.

При цьому офіційна відповідь xAI на запит AFP була лаконічною і містила лише фразу: "Legacy Media Lies" ("Брехня традиційних ЗМІ").

Не перший скандал навколо Grok

Критика навколо Grok наростає не вперше. Раніше ШІ звинувачували в поширенні дезінформації про війну в Газі, конфлікт між Індією і Пакистаном, а також про стрілянину в Австралії.

Експерти зазначають, що ситуація посилює дискусію про необхідність більш жорсткого регулювання генеративного ШІ та відповідальності платформ за контент, створюваний їхніми інструментами.