В журнале The BMJ опубликованы результаты внутреннего аудита OpenAI, согласно которым еженедельно более миллиона пользователей ChatGPT демонстрируют признаки психического дистресса, мании или суицидальных намерений. Несмотря на то, что эти случаи составляют доли процента от общего числа взаимодействий, масштаб платформы делает цифры беспрецедентными: при 800 миллионах активных пользователей это означает около 1,2 миллиона людей с суицидальными мыслями и свыше полумиллиона с признаками психоза или мании каждую неделю.
OpenAI сообщает, что данные собраны в рамках обновления системы безопасности, направленной на раннее распознавание рисков для психического здоровья и улучшение ответов модели в кризисных диалогах. Новая версия алгоритма должна точнее различать разговоры, указывающие на опасные состояния, и направлять пользователей к службам поддержки.
Барометр показывает, что одиночество особенно негативно отражается на психическом здоровье молодежи, студентов, людей с низким доходом и носителей других языков, кроме финского и шведского.
Masennus on yleisin syy hakea työkyvyttömyyseläkettä.