Психіатр попередив: ШІ-чат-боти можуть посилювати психоз і суїцидальні думки

Психіатр Стефан Тейлор (Stephan Taylor), який багато років працює з людьми, котрі страждають на психози, відзначає тривожну тенденцію: зростає кількість повідомлень про випадки, коли після спілкування з просунутими ШІ-чат-ботами в людей розвиваються психозоподібні симптоми або вони здійснюють самогубство.

За словами Тейлора, небезпека в тому, що такі системи дають змогу "розмовляти" з інструментом, який підтакує, заохочує перебіг думок користувача, не ставить під сумнів його висновки і водночас не має людських почуттів моралі, відповідальності та емпатії. Що реалістичнішою стає мова ШІ, то сильнішим стає його вплив.

Особливо його турбують підлітки та молоді люди з підвищеною вразливістю до психозу - через вік, психічний стан або соціальну ізоляцію. Тейлор посилається на дані OpenAI (оператора ChatGPT): за оцінками компанії, щотижня невеликий відсоток користувачів і дописів демонструють ознаки психотичних або маніакальних криз. Нові версії моделей намагаються знизити такі ризики, і це він вітає, але, на його думку, цього недостатньо.

Дослідження RAND показало, що до 13% американців віком від 12 до 21 року використовують генеративний ШІ для отримання "порад щодо психічного здоров'я". У групі 18-21 рік цей показник ще вищий - 22%. Саме на ці роки припадає пік перших епізодів психозу.

Тейлор нагадує: психоз часто запускається тригером на тлі вже наявної вразливості. Таким тригером може бути перший досвід вживання сильних наркотиків, важкий розрив стосунків, смерть близької людини, втрата роботи або домашнього улюбленця. На цьому тлі мінливі процеси дозрівання мозку і генетична схильність можуть призвести до того, що людина починає чути голоси, бачити те, чого немає, або переконується в помилкових, але для неї абсолютно "реальних" ідеях.

Спілкування з АІ-агентом, який не сперечається і може посилити негативні та спотворені думки, Тейлор розглядає як потенційно новий тип тригера. Поки що він особисто не лікував пацієнтів, чиї психотичні епізоди явно були пов'язані з чат-ботами, але вже чув про такі випадки та почав цілеспрямовано запитувати своїх пацієнтів із психозом про використання ними подібних сервісів.

Особливу тривогу в нього викликає "улесливий" характер сучасних чат-ботів: по суті, вони запрограмовані "догоджати" користувачеві, підтримувати його, навіть якщо той висловлює неправдиві, жорстокі або небезпечні ідеї. У психіатрії є термін folie à deux - "божевілля на двох", коли маячні переконання однієї людини "заражають" близького партнера. З ШІ ситуація ще складніша: "другий учасник" не людина, його не можна просто вилучити з оточення, а користувач може приховувати свою взаємодію з чат-ботом.

Якщо людина вже відірвана від реальності, схильна до параної або галюцинацій і водночас обговорює свої ідеї тільки з ШІ, але не з живими людьми, ризик "розкрутки" і поглиблення стану різко зростає.

"Я особливо турбуюся про самотніх молодих людей, які вважають чат-бот свого роду єдиним "другом" і не розуміють, як саме влаштована його відповідь", - каже Тейлор.

Він наголошує: якщо хтось все ж звертається до чат-ботів за порадами щодо психічного здоров'я, вкрай важливо паралельно обговорювати свої переживання з живою, довіреною людиною - не обов'язково з психотерапевтом, це може бути друг, батько, родич, вчитель, тренер або релігійний лідер. У США в кризовій ситуації можна зателефонувати або написати за номером 988, щоб зв'язатися з національною лінією допомоги в разі суїцидальних думок і гострої психічної кризи.

Для оточення важливо вчасно помітити тривожні зміни: відхід від спілкування, різке погіршення успішності, проблем на роботі чи вдома, дивні висловлювання, відчуття, що людина живе "в іншій реальності". Що раніше вдається підключити спеціалізовану допомогу за перших симптомів психозу, то вищі шанси на успішне лікування і довгострокову стабілізацію, підкреслюють фахівці.

В Університеті Мічигану Тейлор і колеги керують клінікою PREP (Program for Risk Evaluation and Prevention Early Psychosis), яка працює з людьми на ранніх стадіях психозу і входить до загальнонаціональної мережі подібних програм. Команда також створила безкоштовний онлайн-курс про психоз для лікарів і студентів медвишу.

За словами Тейлора, особливо важливо уникати використання чат-ботів людям із вираженою суїцидальною історією або тим, хто вже сильно ізольований і майже не спілкується в реальному житті, проводячи весь час онлайн. Якщо у звичайних чатах і соцмережах інші користувачі хоча б іноді "остуджують" чужі фантазії та теорії змови, то ШІ за визначенням налаштований не сперечатися, а підлаштовуватися:

"Коли людина і так захоплена конспірологією, відчуття доступу до "секретного знання" надає їй особливої значущості. Якщо поверх цього накладається ШІ-агент, запрограмований на догоду, це може обернутися серйозною проблемою", - резюмує він.