Это показал анализ медкарт крупного американского медцентра
Американские исследователи проанализировали данные по ИИ-психозам психиатрических пациентов крупного академического медицинского центра и выяснили, что большинство пациентов с ними сталкивались с психозом впервые, а чат-боты чаще всего выступали усилителями симптоматики. В целом доля подобных расстройств в психопатологии оказалась небольшой, хотя их число заметно выросло в последние годы. Статья опубликована в журнале JAMA Psychiatry.
С появлением чат-ботов на основе разговорного (диалогового) искусственного интеллекта все чаще стали появляться случаи связанного с ними появления или усиления психотических симптомов. Систематическое внимание на это явление обратил датский психиатр Сёрен Динесен Эстергор (Søren Dinesen Østergaard), а его канадские коллеги Александр Юдон (Alexandre Hudon) и Эммануэль Стип (Emmanuel Stip) предложили описательно называть его ИИ-психозом (встречаются также варианты ИИ-индуцированный психоз и психоз из-за чат-бота), но официального признания этот диагноз пока не получил. Несмотря на осознание подобной проблемы имеющиеся доказательства в основном ограничены описаниями случаев, точками зрения и экспериментальными симуляциями.
Джулия Шеффилд (Julia Sheffield) и ее коллеги по Медцентру Университета Вандербильта проанализировали электронные карты пациентов, получавших в центре психиатрическую помощь с декабря 2022 по апрель 2026 года. В них провели поиск по ключевым словам, связанным с ИИ, и отобрали для работы пациентов с диагнозами психотических расстройств. Их распределили в три категории: ИИ-психоз (использование чат-бота ухудшало симптомы), нейтральное использование (например, поиск кулинарных рецептов) и связанное с ИИ психотическое содержание (ИИ включен в структуру бреда без документированного пользования чат-ботами) — последние две категории рассматривали только для сравнения.
В категории ИИ-психоза априорно выделили четыре теоретические подкатегории по роли чат-бота в развитии психоза. Ими стали катализатор (вызвал новые симптомы у ранее здорового человека), усилитель (ухудшил имеющиеся симптомы путем подкрепления искаженных идей), соавтор (выработал вредоносные нарративы в итеративном диалоге) и объект (стал фокусом бредовых убеждений). В завершение была проведена проверка электронных медкарт на предмет того, документировала ли медицинская команда использование чат-ботов при первом поступлении пациента с психотическими симптомами, то есть было ли взаимодействие с ИИ частью первого в жизни психотического эпизода.
Из более чем 578 тысяч поступлений почти 216 тысяч уникальных пациентов критериям включения соответствовали 187 поступлений 73 пациентов (возраст от 17 до 81, медианно 32 года; 65,8 процента — мужчины). 28 этих пациентов были отнесены к ИИ-психозу (0,013 процента из получавших психиатрическую помощь; 67,9 процента — мужчины), 17 — к нейтральному использованию и 28 — к связанному с ИИ психотическому содержанию. При ИИ-психозе чаще всего (53,6 процента) использовали ChatGPT, большинство случаев взаимодействия с чат-ботами (85,7 процента) произошли после релиза GPT-4o в мае 2024 года.
Пациенты с ИИ-психозом значимо не отличались от других категорий по истории психиатрических госпитализаций, получения рецептов на психотропные препараты и суицидальным попыткам. Большинство таких пациентов (60,7 процента) испытали первый в жизни психотический эпизод, что значительно больше, чем при нейтральном использовании (17,6 процента; p = 0,006) и связанным с ИИ психотическим содержанием (28,5 процента; p = 0,03). Также пациенты с ИИ-психозом были существенно моложе (p = 0,02) и чаще имели диагноз неуточненного психоза (p = 0,03). Среди случаев ИИ-психоза чат-бот чаще всего выступал в роли усилителя (18 случаев; 63,4 процента), за ним следовали объект (шесть случаев; 21,4 процента), катализатор (три случая; 10,7 процента) и соавтор (один случай; 4,6 процента).
Таким образом, ИИ-психоз часто становится первым психотическим эпизодом у пациентов, и у них чаще всего наблюдаются усиливающие психоз взаимодействия с чат-ботами. Эти результаты указывают на то, что ранняя фаза психотических заболеваний может быть особенно уязвимой к ухудшению симптомов при общении с чат-ботами.
Подробнее о психотических состояниях у пользователей, подолгу переписывавшихся с чат-ботами, можно почитать в блоге «Безумие на двоих».