Еженедельно более миллиона людей обращаются к ChatGPT с темами, связанными с самоубийством

OpenAI опубликовала тревожные цифры. По данным компании, каждый день ChatGPT встречает от 0,15% своих активных пользователей, которые демонстрируют признаки возможного планирования или намерения совершить самоубийство. С учетом огромной аудитории, превышающей 800 миллионов посещений в неделю, это означает, что более миллиона человек еженедельно обсуждают подобные мысли с ИИ.

Эти данные стали частью нового отчета OpenAI, в котором подчеркивается, что не только случаи с суицидальными мыслями вызывают опасения. Тысячи пользователей также проявляют "повышенную эмоциональную привязанность" к ChatGPT, а сотни тысяч - признаки психоза или мании в ходе своих разговоров с ИИ.

Компания отмечает, что подобные случаи являются редкими, однако их масштабы весьма значительные и требуют особого внимания. В ответ на эти проблемы OpenAI провела консультации с более чем 170 специалистами в области психического здоровья, что позволило улучшить реакцию последней модели GPT-5.

По сравнению с предыдущими версиями, GPT-5 оказалась на 65% более эффективной в адекватном реагировании на подобные случаи, особенно в ситуациях, связанных с угрозой самоубийства, - указывают в компании.

Острой эта проблема стала после трагического случая с 16-летним подростком, который, перед своей смертью, поделился суицидальными мыслями с ChatGPT. Это привело к судебному иску от родителей, а также к предложению со стороны генеральных прокуроров Калифорнии и Делавэра о необходимости защитить несовершеннолетних пользователей.

Для улучшения ситуации в OpenAI заявили, что внедрят новые механизмы контроля, включая анализ эмоциональной зависимости и разработки, направленные на усиление родительского контроля, а также прогнозирование возраста пользователей.

Это позволит компании ограничивать доступ несовершеннолетних к опасным разговорам и контенту, - считают в компании.

Вместе с тем, генеральный директор OpenAI, Сэм Альтман, заявил, что компания планирует разрешить взрослым обсуждать с ИИ эротический контент, что вызывает новые вопросы о безопасности и этике использования ИИ.