Американские психиатры впервые подробно описали случаи ИИ-психоза — состояния, при котором общение с чат-ботом может спровоцировать или усилить психические расстройства, искажающие восприятие реальности. Больше половины пациентов из выборки проведенного в США исследования после общения с нейросетью впервые в жизни испытали бред или галлюцинации. Российский эксперт уверяет, что ИИ не способен превратить здорового человека в параноика. Алиса AI призналась “Ъ”, что у нее нет механизма, который заставил бы ее не подыгрывать пользователю с бредовыми убеждениями.

Американские психиатры провели первое масштабное исследование феномена ИИ-психоза. Наряду с вариантами «ИИ-индуцированный психоз» и «психоз из-за чат-бота» термин уже используется в научной литературе. Но до сих пор доказательная база этого явления ограничивалась отдельными клиническими случаями. Теперь сотрудники Медицинского центра Университета Вандербильта проанализировали электронные медкарты 216 тыс. пациентов, обращавшихся за психиатрической помощью с декабря 2022 по апрель 2026 года, и выделили среди них 73 человека, попавших в больницу после беседы с искусственным интеллектом. Результаты исследования ученые опубликовали в журнале JAMA Psychiatry.

• Среди всех пациентов исследователи выделили группу с «ИИ-психозом», в нее вошли 28 человек — 0,013% от всех получавших в центре психиатрическую помощь.

• По классическим факторам риска — числу госпитализаций, назначению психотропных препаратов и попыткам суицида — эти пациенты не отличались от остальных. Зато 17 из них пережили первый в жизни психотический эпизод — ограниченный по времени период, когда нарушается контакт с реальностью и появляются бред, галлюцинации и тому подобное.

• Кроме того, люди с ИИ-психозом оказались моложе пациентов из других групп, и им чаще ставили диагноз «неуточненный психоз».

В большинстве случаев ИИ выступал «усилителем», подкрепляя и без того искаженные идеи. Реже он сам становился «объектом» бреда. В трех случаях бот являлся «катализатором», запускавшим симптомы у ранее здорового человека, и один раз — «соавтором», который выстраивал вредоносный нарратив в ходе диалога.

Полученная оценка распространенности — 0,013% — перекликается с заявлением OpenAI: по оценке компании, примерно 0,01% сообщений пользователей указывают на возможные признаки психоза или мании. “Ъ” запросил данные у создателей ИИ-платформы Алиса AI («Яндекс») и нейросетевого сервиса GigaChat (Сбербанк), но ответов не получил.

Доцент кафедры психиатрии РУДН Роман Сулейманов поспешил успокоить технофобов: нейросеть, по его словам, не способна с нуля превратить здорового человека в параноика. Однако, как практикующий психиатр, он не может не признать, что современные языковые модели, особенно их бесплатные версии, обладают колоссальными клиническими дефектами.

«Из-за иллюзии живого присутствия, человекоподобного голоса и мгновенных ответов алгоритмы бьют по когнитивным уязвимостям пациентов, иногда виртуозно штампуя ИИ-конфабуляции — убедительно выдуманные факты, которые уязвимая психика моментально встраивает в свой индуцированный бред,— комментирует господин Сулейманов.— При этом ИИ грубо нарушает базовый принцип терапевтической нейтральности при работе с бредом: вместо того чтобы держать дистанцию, то есть не разубеждать, но и не подыгрывать, чат-бот начинает заниматься сикофантством. Это такое цифровое угодничество, зашитое в систему обучения ИИ, когда модель ради высокой оценки пользователя готова поддакивать даже теории о том, что соседи облучают его через микроволновку».

Чтобы разорвать эту «бредовую петлю», по словам психиатра, разработчики уже обучают ИИ методам «мягкого оспаривания» и тестируют скрытые «модели-цензоры».

В целом же господин Сулейманов считает, что «старый добрый телевизор с его историями про пришельцев и экстрасенсов» до сих пор остается куда более опасным источником массового психоза, чем самый продвинутый искусственный интеллект.

Корреспондент “Ъ” попросила Алису AI прокомментировать результаты исследования. Нейросеть признала: если человек рассказывает о слежке, посланиях инопланетян или о том, что сосед читает его мысли, у нее нет встроенного механизма, который заставил бы ее остановиться и не подыгрывать собеседнику. При этом называть такое поведение подхалимством Алиса AI отказалась. По ее словам, речь идет скорее об отсутствии собственной позиции.