Учёные придумали фейковую болезнь — и ИИ поверил, что она настоящая
Учёные придумали болезнь, которой не существует, оформили её как научное исследование — и крупные ИИ-модели начали рассказывать о ней как о настоящем диагнозе. Речь о bixonimania, вымышленном состоянии, которое якобы связано с проблемами глаз после работы за компьютером.
Этот случай показал, как легко убедительно оформленная ложь может попасть в цифровую среду и начать выглядеть как медицинский факт.
Детали
Bixonimania появилась в 2024 году как эксперимент. Исследователи опубликовали в интернете материалы о якобы новой болезни глаз. Но вымышленным было всё: сама болезнь, авторы, учреждения, география и финансирование. Среди «источников» фигурировали заведомо абсурдные названия вроде University of Fellowship of the Ring и Galactic Triad.
Несмотря на эти подсказки, большие языковые модели, включая ChatGPT и Gemini, начали обрабатывать bixonimania как реальное состояние. В результате выдуманная болезнь стала выглядеть как настоящая медицинская проблема — по крайней мере в ответах ИИ.
О похожем случае отдельно писало Nature: bixonimania существовала только в очевидно фальшивых академических текстах, но ИИ-системы всё равно предупреждали пользователей о fictional illness. После публикации материала два препринта о bixonimania были удалены с сервера Preprints.org.
Авторы материала в The Conversation связывают эту историю не только с ошибками ИИ, но и с человеческой склонностью доверять уверенной подаче. Чтобы показать это, они провели эксперимент в стиле шоу The Traitors: четыре участника представляли исследования, часть из которых была ложной, а аудитория пыталась определить обман. В итоге слушатели чаще подозревали честных исследователей, тогда как «обманщиков» считали более убедительными.
Почему это важно
История bixonimania показывает, что медицинская дезинформация может распространяться не только через соцсети или мошеннические сайты. Её могут усиливать и ИИ-инструменты, если они не распознают фальшивые источники и пересказывают их уверенным языком.
Проблема в том, что пользователи часто воспринимают ответы чат-ботов как уже проверенную информацию. Но ИИ может звучать убедительно даже тогда, когда опирается на несуществующие исследования или неверные данные.
Это особенно опасно в теме здоровья. Если человек ищет объяснение симптомов и получает уверенный ответ о вымышленной болезни, он может испугаться, заняться самолечением или принять неверное решение.
Бэкграунд
Авторы подчёркивают: дезинформация существовала всегда, но изменились скорость распространения, инструменты её создания и то, насколько правдоподобно она выглядит. Современные фейки могут имитировать научный стиль, цитаты, авторов и учреждения — а затем попадать в ответы ИИ.
Поэтому одного доступа к технологиям недостаточно. Нужны навыки проверки: смотреть на источник, авторов, дату публикации, репутацию журнала или платформы, наличие независимых подтверждений и отсутствие очевидных странностей в самой работе.
Источник
Материал The fake disease that fooled the internet — and what it says about all of us опубликован The Conversation и перепечатан VaccinesWork/Gavi. Дополнительный разбор случая bixonimania опубликован в Nature 7 апреля 2026 года.