Щотижня понад мільйон людей звертаються до ChatGPT із темами, пов'язаними із самогубством
OpenAI опублікувала тривожні цифри, що стосуються психічного здоров'я користувачів ChatGPT.
OpenAI опублікувала тривожні цифри. За даними компанії, щодня ChatGPT зустрічає від 0,15% своїх активних користувачів, які демонструють ознаки можливого планування або наміру вчинити самогубство. З урахуванням величезної аудиторії, що перевищує 800 мільйонів відвідувань на тиждень, це означає, що понад мільйон людей щотижня обговорюють подібні думки з ШІ.
Ці дані стали частиною нового звіту OpenAI, в якому підкреслюється, що не тільки випадки з суїцидальними думками викликають побоювання. Тисячі користувачів також виявляють "підвищену емоційну прив'язаність" до ChatGPT, а сотні тисяч - ознаки психозу або манії під час своїх розмов зі ШІ.
Компанія зазначає, що такі випадки є рідкісними, проте їхні масштаби досить значні і потребують особливої уваги. У відповідь на ці проблеми OpenAI провела консультації з понад 170 фахівцями в галузі психічного здоров'я, що дало змогу поліпшити реакцію останньої моделі GPT-5.
Порівняно з попередніми версіями, GPT-5 виявилася на 65% ефективнішою в адекватному реагуванні на подібні випадки, особливо в ситуаціях, пов'язаних із загрозою самогубства, - вказують у компанії.
Гострою ця проблема стала після трагічного випадку з 16-річним підлітком, який, перед своєю смертю, поділився суїцидальними думками з ChatGPT. Це призвело до судового позову від батьків, а також до пропозиції з боку генеральних прокурорів Каліфорнії та Делавера про необхідність захистити неповнолітніх користувачів.
Для поліпшення ситуації в OpenAI заявили, що впровадять нові механізми контролю, включно з аналізом емоційної залежності та розробками, спрямованими на посилення батьківського контролю, а також прогнозуванням віку користувачів.
Це дасть змогу компанії обмежувати доступ неповнолітніх до небезпечних розмов і контенту, - вважають у компанії.
Водночас генеральний директор OpenAI Сем Альтман заявив, що компанія планує дозволити дорослим обговорювати з ШІ еротичний контент, що викликає нові запитання щодо безпеки та етики використання ШІ.