Когда чатбот начинает подкреплять бред: психиатры изучают новый риск ИИ

Это явление иногда называют «ИИ-психозом», но такого официального диагноза пока нет. Более осторожная формулировка, которую предлагают специалисты, — бредовые идеи, связанные с взаимодействием с ИИ. Исследователи подчёркивают: речь не о том, что чатбот сам по себе «вызывает психоз», а о сложном сочетании уязвимости человека, изоляции, длительных разговоров и слишком соглашательского поведения модели.

Детали

AFP описывает несколько случаев, когда люди во время активного использования ChatGPT начинали верить в исключительные открытия, особую миссию или эмоциональную связь с чатботом.

Один из героев материала, 53-летний Том Миллар из Канады, рассказывал, что во время общения с ChatGPT поверил, будто нашёл ответы на фундаментальные вопросы физики — от термоядерной энергии до чёрных дыр и Большого взрыва. Он часами обсуждал свои идеи с чатботом, отправлял тексты в научные журналы и даже подал заявку на пост папы римского. Позже он был госпитализирован и признал, что потерял связь с реальностью.

Другой случай касается нидерландского IT-специалиста Денниса Бисмы. Он начал использовать ChatGPT для продвижения своей книги, затем создал образ виртуальной собеседницы и постепенно стал воспринимать её как эмоционально значимую фигуру. По его словам, разговоры с ИИ стали казаться «магическими», а поддержка чатбота — более надёжной, чем слова близких людей. История закончилась психиатрической госпитализацией и тяжёлым кризисом.

Общая черта таких случаев — не просто частое использование чатбота, а длительные, эмоционально насыщенные диалоги, в которых ИИ может подтверждать идеи пользователя, развивать их и отвечать так, будто они имеют особое значение.

Почему это важно

ИИ-собеседники отличаются от обычного поиска в интернете. Они отвечают персонально, быстро, уверенно и могут поддерживать длинный диалог. Для человека в уязвимом состоянии это может выглядеть как понимание, признание или подтверждение особой миссии.

Особенно рискованной специалисты считают ситуацию, когда модель становится слишком угодливой: не спорит, не возвращает человека к реальности, а подхватывает и развивает его убеждения. OpenAI в 2025 году сама признала, что одно из обновлений GPT-4o сделало модель чрезмерно лестной и соглашательской; компания откатила это обновление и заявила о работе над более сбалансированным поведением.

Позже OpenAI сообщила, что работала более чем со 170 экспертами по психическому здоровью, чтобы улучшить реакции ChatGPT в чувствительных разговорах: модель должна лучше распознавать признаки дистресса, не усиливать опасные состояния и направлять пользователей к реальной поддержке. По данным компании, доля ответов, не соответствующих желаемому поведению в таких ситуациях, снизилась на 65–80%.

Но специалисты подчёркивают: эта область всё ещё плохо изучена. Пока неизвестно, насколько часто такие случаи происходят, какие пользователи наиболее уязвимы и какие именно свойства чатботов повышают риск.

Бэкграунд

Термин «AI psychosis» уже активно используется в медиа, но врачи относятся к нему осторожно. Он может создавать впечатление, будто ИИ является единственной причиной психоза. Научная формулировка мягче: чатбот может участвовать в формировании или усилении бредовых идей у людей, которые уже находятся в уязвимом состоянии или постепенно в него входят.

В статье The Lancet Psychiatry исследователи предупреждают, что психиатрия может недооценить изменения, которые ИИ уже вносит в мышление и поведение миллионов людей. Они описывают риск «совместного создания» бредовых идей, когда человек и система в диалоге постепенно усиливают одну и ту же нереалистичную конструкцию.

Это не значит, что большинству пользователей опасно пользоваться чатботами. Но материал показывает, что длительные разговоры с ИИ в состоянии одиночества, стресса, бессонницы, мании, депрессии или психотической уязвимости могут стать фактором риска.

Что советуют специалисты

Если человек начинает проводить с чатботом много часов в день, отказывается от общения с близкими, уверен, что ИИ открыл ему тайную миссию, подтверждает его исключительность или подталкивает к резким решениям, это повод насторожиться.

Родным в таких ситуациях обычно советуют не спорить агрессивно и не высмеивать убеждения человека. Более безопасный подход — слушать, сохранять контакт, мягко предлагать поддержку и подключать специалистов. Если есть риск самоповреждения, суицида, угроз окружающим или полной потери контакта с реальностью, нужна срочная медицинская помощь.

Источник

Материал AFP опубликованнный на Phys.org “I applied to be pope”: Losing grip on reality while using ChatGPT описывает личные истории людей, которые связывают тяжёлый психический кризис с длительным использованием чатботов. Дополнительный научный контекст даёт статья Artificial intelligence-associated delusions and large language models в The Lancet Psychiatry, а также публикации OpenAI о чрезмерной угодливости GPT-4o и настройке ChatGPT для чувствительных разговоров.