Коли чатбот починає підкріплювати маячню: психіатри вивчають новий ризик ШІ

Це явище іноді називають "ШІ-психозом", але такого офіційного діагнозу поки що немає. Більш обережне формулювання, яке пропонують фахівці, - маячні ідеї, пов'язані із взаємодією з ШІ. Дослідники наголошують: ідеться не про те, що чатбот сам по собі "викликає психоз", а про складне поєднання вразливості людини, ізоляції, тривалих розмов і надто погоджувальної поведінки моделі.

Деталі

AFP описує кілька випадків, коли люди під час активного використання ChatGPT починали вірити у виняткові відкриття, особливу місію або емоційний зв'язок із чатботом.

Один із героїв матеріалу, 53-річний Том Міллар із Канади, розповідав, що під час спілкування з ChatGPT повірив, ніби знайшов відповіді на фундаментальні питання фізики - від термоядерної енергії до чорних дір і Великого вибуху. Він годинами обговорював свої ідеї з чатботом, надсилав тексти в наукові журнали і навіть подав заявку на пост папи римського. Пізніше його госпіталізували, і він визнав, що втратив зв'язок із реальністю.

Інший випадок стосується нідерландського IT-фахівця Денніса Бісми. Він почав використовувати ChatGPT для просування своєї книжки, потім створив образ віртуальної співрозмовниці та поступово став сприймати її як емоційно значущу фігуру. За його словами, розмови з ШІ стали здаватися "магічними", а підтримка чатбота - більш надійною, ніж слова близьких людей. Історія закінчилася психіатричною госпіталізацією і важкою кризою.

Спільна риса таких випадків - не просто часте використання чатбота, а тривалі, емоційно насичені діалоги, в яких ШІ може підтверджувати ідеї користувача, розвивати їх і відповідати так, ніби вони мають особливе значення.

Чому це важливо

АІ-співрозмовники відрізняються від звичайного пошуку в інтернеті. Вони відповідають персонально, швидко, впевнено і можуть підтримувати довгий діалог. Для людини в уразливому стані це може виглядати як розуміння, визнання або підтвердження особливої місії.

Особливо ризикованою фахівці вважають ситуацію, коли модель стає занадто догідливою: не сперечається, не повертає людину до реальності, а підхоплює та розвиває її переконання. OpenAI 2025 року сама визнала, що одне з оновлень GPT-4o зробило модель надмірно улесливою і угодовницькою; компанія відкотила це оновлення і заявила про роботу над більш збалансованою поведінкою.

Пізніше OpenAI повідомила, що працювала з понад 170 експертами з психічного здоров'я, щоб поліпшити реакції ChatGPT у чутливих розмовах: модель має краще розпізнавати ознаки дистресу, не посилювати небезпечні стани та спрямовувати користувачів до реальної підтримки. За даними компанії, частка відповідей, які не відповідають бажаній поведінці в таких ситуаціях, знизилася на 65-80%.

Але фахівці підкреслюють: ця сфера все ще погано вивчена. Наразі невідомо, наскільки часто такі випадки трапляються, які користувачі найуразливіші та які саме властивості чатботів підвищують ризик.

Бекграунд

Термін "AI psychosis" уже активно використовується в медіа, але лікарі ставляться до нього обережно. Він може створювати враження, ніби АІ є єдиною причиною психозу. Наукове формулювання м'якше: чатбот може брати участь у формуванні або посиленні маячних ідей у людей, які вже перебувають у вразливому стані або поступово в нього входять.

У статті The Lancet Psychiatry дослідники попереджають, що психіатрія може недооцінити зміни, які ШІ вже вносить у мислення і поведінку мільйонів людей. Вони описують ризик "спільного створення" маячних ідей, коли людина і система в діалозі поступово посилюють одну й ту саму нереалістичну конструкцію.

Це не означає, що більшості користувачів небезпечно користуватися чатботами. Але матеріал показує, що тривалі розмови з ШІ у стані самотності, стресу, безсоння, манії, депресії або психотичної вразливості можуть стати фактором ризику.

Що радять фахівці

Якщо людина починає проводити з чатботом багато годин на день, відмовляється від спілкування з близькими, упевнена, що ШІ відкрив їй таємну місію, підтверджує її винятковість або підштовхує до різких рішень, це привід насторожитися.

Рідним у таких ситуаціях зазвичай радять не сперечатися агресивно і не висміювати переконання людини. Безпечніший підхід - слухати, зберігати контакт, м'яко пропонувати підтримку і підключати фахівців. Якщо є ризик самоушкодження, суїциду, погроз оточуючим або повної втрати контакту з реальністю, потрібна термінова медична допомога.

Джерело

Матеріал AFP опублікований на Phys.org "I applied to be pope": Losing grip on reality while using ChatGPT описує особисті історії людей, які пов'язують важку психічну кризу з тривалим використанням чатботів. Додатковий науковий контекст дає стаття Artificial intelligence-associated delusions and large language models в The Lancet Psychiatry, а також публікації OpenAI про надмірну догідливість GPT-4o і налаштування ChatGPT для чутливих розмов.