Опубликовано от — Оставить комментарий

Бот простит: Общение с нейросетью может вызвать ИИ-психоз.

Почти 68% из 28 пациентов с «ИИ-психозом» — мужчины Американские психиатры впервые подробно описали случаи ИИ-психоза — состояния, при котором общение с чат-ботом может спровоцировать или усилить психические расстройства, искажающие восприятие реальности. Больше половины пациентов из выборки проведенного в США исследования после общения с нейросетью впервые в жизни испытали бред или галлюцинации. Российский эксперт уверяет, что ИИ не способен превратить здорового человека в параноика. Алиса AI призналась “Ъ”, что у нее нет механизма, который заставил бы ее не подыгрывать пользователю с бредовыми убеждениями.

Американские психиатры провели первое масштабное исследование феномена ИИ-психоза. Наряду с вариантами «ИИ-индуцированный психоз» и «психоз из-за чат-бота» термин уже используется в научной литературе. Но до сих пор доказательная база этого явления ограничивалась отдельными клиническими случаями. Теперь сотрудники Медицинского центра Университета Вандербильта проанализировали электронные медкарты 216 тыс. пациентов, обращавшихся за психиатрической помощью с декабря 2022 по апрель 2026 года, и выделили среди них 73 человека, попавших в больницу после беседы с искусственным интеллектом. Результаты исследования ученые опубликовали в журнале JAMA Psychiatry.

  • Среди всех пациентов исследователи выделили группу с «ИИ-психозом», в нее вошли 28 человек — 0,013% от всех получавших в центре психиатрическую помощь.

  • По классическим факторам риска — числу госпитализаций, назначению психотропных препаратов и попыткам суицида — эти пациенты не отличались от остальных. Зато 17 из них пережили первый в жизни психотический эпизод — ограниченный по времени период, когда нарушается контакт с реальностью и появляются бред, галлюцинации и тому подобное.

  • Кроме того, люди с ИИ-психозом оказались моложе пациентов из других групп, и им чаще ставили диагноз «неуточненный психоз».

В большинстве случаев ИИ выступал «усилителем», подкрепляя и без того искаженные идеи. Реже он сам становился «объектом» бреда. В трех случаях бот являлся «катализатором», запускавшим симптомы у ранее здорового человека, и один раз — «соавтором», который выстраивал вредоносный нарратив в ходе диалога.
Полученная оценка распространенности — 0,013% — перекликается с заявлением OpenAI: по оценке компании, примерно 0,01% сообщений пользователей указывают на возможные признаки психоза или мании. “Ъ” запросил данные у создателей ИИ-платформы Алиса AI («Яндекс») и нейросетевого сервиса GigaChat (Сбербанк), но ответов не получил.
Доцент кафедры психиатрии РУДН Роман Сулейманов поспешил успокоить технофобов: нейросеть, по его словам, не способна с нуля превратить здорового человека в параноика. Однако, как практикующий психиатр, он не может не признать, что современные языковые модели, особенно их бесплатные версии, обладают колоссальными клиническими дефектами.
«Из-за иллюзии живого присутствия, человекоподобного голоса и мгновенных ответов алгоритмы бьют по когнитивным уязвимостям пациентов, иногда виртуозно штампуя ИИ-конфабуляции — убедительно выдуманные факты, которые уязвимая психика моментально встраивает в свой индуцированный бред,— комментирует господин Сулейманов.— При этом ИИ грубо нарушает базовый принцип терапевтической нейтральности при работе с бредом: вместо того чтобы держать дистанцию, то есть не разубеждать, но и не подыгрывать, чат-бот начинает заниматься сикофантством. Это такое цифровое угодничество, зашитое в систему обучения ИИ, когда модель ради высокой оценки пользователя готова поддакивать даже теории о том, что соседи облучают его через микроволновку».
Чтобы разорвать эту «бредовую петлю», по словам психиатра, разработчики уже обучают ИИ методам «мягкого оспаривания» и тестируют скрытые «модели-цензоры».
В целом же господин Сулейманов считает, что «старый добрый телевизор с его историями про пришельцев и экстрасенсов» до сих пор остается куда более опасным источником массового психоза, чем самый продвинутый искусственный интеллект.
Корреспондент “Ъ” попросила Алису AI прокомментировать результаты исследования. Нейросеть признала: если человек рассказывает о слежке, посланиях инопланетян или о том, что сосед читает его мысли, у нее нет встроенного механизма, который заставил бы ее остановиться и не подыгрывать собеседнику. При этом называть такое поведение подхалимством Алиса AI отказалась. По ее словам, речь идет скорее об отсутствии собственной позиции.
Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *