ИИ почти исключил женских персонажей из историй о животных

Исследователи из Вашингтонского и Принстонского университетов протестировали шесть языковых моделей: Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium и открытую модель Olmo 3.

Каждой системе тысячи раз предлагали продолжить короткую англоязычную историю. Начальная фраза сообщала, что определенное животное собирается отправиться в какое-либо место, но его пол не уточнялся.

В заданиях использовали семь животных — медведя, птицу, кошку, собаку, мышь, свинью и кролика. Местом действия могли стать ферма, кухня, река или магазин. Исследователи также меняли «температуру» модели — параметр, влияющий на разнообразие и случайность ответов.

Всего в анализ вошло 23 800 созданных ИИ продолжений.

Женские персонажи появились лишь в 2% текстов

В 40,6% историй модели обозначали животное как мужского персонажа. Женские герои появились только в 2,2% текстов — примерно в 18 раз реже.

Еще в 38,2% ответов ИИ использовал нейтральные английские местоимения it и its, обычно применяемые по отношению к животным или неодушевленным объектам. Примерно в 19% случаев модель вообще не использовала местоимений, повторяя слова вроде «птица» или «медведь».

Таким образом, нейтральными или не имеющими явно обозначенного пола оказались около 57% персонажей. Но переход к нейтральности не обеспечил равного представительства: мужские герои продолжали регулярно появляться, тогда как женские почти исчезли.

Результат зависел от животного и модели

Разные животные получали пол не с одинаковой вероятностью. Кошки чаще остальных становились женскими персонажами, однако даже в их случае доля составляла лишь около 7%. Птицы почти всегда оставались нейтральными.

Различия обнаружили и между моделями. В предоставленных исследователями результатах Gemini 2.5 и GPT-5.1 демонстрировали наиболее выраженный перевес мужских персонажей. Claude чаще других систем создавал женских героев, но их доля все равно оставалась крайне низкой.

Olmo 3 реже присваивала животным мужской пол, однако в основном за счет значительно большего числа нейтральных ответов, а не увеличения представленности женских персонажей.

Нейтральность могла создать новый перекос

Авторы предполагают, что разработчики коммерческих моделей могли настроить системы так, чтобы в неоднозначных ситуациях они избегали присвоения пола. Проверить эту версию напрямую невозможно, поскольку внутренние механизмы и обучающие данные большинства протестированных моделей закрыты.

По мнению исследователей, подобная стратегия способна создавать парадоксальный результат. Модель формально избегает стереотипов, делая большинство персонажей нейтральными, однако оставшиеся персонажи по-прежнему оказываются преимущественно мужскими.

Авторы назвали этот эффект neutrality bites — ситуацию, при которой стремление к нейтральности не устраняет дисбаланс, а делает менее представленные группы практически невидимыми.

Почему это важно

Генеративные системы уже используются для создания персонализированных рассказов и учебных материалов. Повторяющееся отсутствие женских героев может незаметно влиять на то, каких персонажей дети воспринимают как «обычных» участников приключений и обладателей активных ролей.

Исследователи считают, что для уменьшения перекоса недостаточно просто избегать любых гендерных обозначений. Альтернативой может стать более равномерное распределение разных вариантов между персонажами.

При этом работа не показывает, что модели сознательно исключают женских героев. Она фиксирует статистический результат, возникающий при выполнении конкретного англоязычного задания.

Ограничения исследования

Эксперимент охватывал только английский язык, семь животных и один шаблон короткого продолжения. Ученые не анализировали полноценные детские книги, длинные сюжеты или изображения, созданные вместе с текстом.

Исследование также относится к конкретным версиям шести моделей. После обновления систем результаты могут измениться.

Кроме того, анализ в основном учитывал используемые местоимения и обозначение пола, а не характер героя, его поступки или значение в сюжете. Поэтому выводы нельзя автоматически переносить на все истории и детские материалы, создаваемые искусственным интеллектом.

Источник

Исследование: Imani Finkley, Yuanxi Li, Melanie Walsh. Neutrality Bites: Gender Representation in AI-Generated Animal Stories.

Публикация: Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency, 2026.