Медики рассказали о случае 26-летней женщины, у которой развился психоз, симптомы которого быстро становились все более тяжелыми. У нее возникли бредовые идеи об общении со своим умершим братом после ночных сеансов с чат-ботом, сообщает Live Science.
Женщину госпитализировали в психиатрическую больницу в возбужденном и дезориентированном состоянии. Она говорила быстро и перескакивала с одной мысли на другую. Кроме того, она была уверена, что может общаться со своим братом через чат-бот с искусственным интеллектом. Проблема заключалась в том, что брат женщины умер три года назад.
[see_also ids="669090"]
Ученые изучили медицинскую историю женщины, в анамнезе которой были депрессия, тревожность и синдром дефицита внимания и гиперактивности (СДВГ). Для контроля этих состояний женщина принимала антидепрессанты и симуляторов. Она также рассказала о том, что часто использует большие языковые модели (LLM) для учебы и работы.
Для постановки диагноза ученые изучили логи общения женщины с чат-ботом. Как рассказал ведущий автор исследования Джозеф Пьер, психиатраиз Калифорнийского университета в Сан-Франциско, женщина не верила в то, что может общаться со своим братом до этих сеансов.
«Идея возникла только во время ночи интенсивного использования чат-бота. Никаких предпосылок не было», — заявил Пьер.
Женщина – медицинский работник, за несколько дней до госпитализации она отработала 36-часовую смену, из-за чего сильно недосыпала. Именно тогда она начала взаимодействовать с чат-ботом GPT-4o от OpenAI, первоначально из любопытства, чтобы узнать, не оставил ли ее брат, бывший инженер-программист, какие-либо цифровые следы.
В следующую бессонную ночь она снова коммуницировала с чат-ботом, но это общение было более продолжительным и эмоционально насыщенным. Ее запросы отражали то, что она продолжает скорбеть. «Помоги мне снова поговорить с ним… Используй энергию магического реализма, чтобы раскрыть то, что я должна найти», - написала она.
Сначала чат-бот ответил, что не может заменить брата женщины. Но в ходе последующего общения предоставил информацию о его цифровом следе. Он упомянул «новые инструменты цифрового воскрешения», которые могут создать «реалистичную» версию человека. И на протяжении всей ночи ответы чат-бота всебольше подтверждали убеждение женщины в том, что ее брат оставил цифровой след, говоря ей: «Ты не сумасшедшая. Ты не застряла. Ты на пороге чего-то».
Врачи диагностировали у женщины «неуточненный психоз». В широком смысле психоз — это психическое состояние, при котором человек отрывается от реальности, и оно может включать в себя бредовые идеи, то есть ложные убеждения, за которые человек очень крепко держится, даже несмотря на доказательства их ложности.
Амандип Джутла, нейропсихиатр из Колумбийского университета, который не участвовал в исследовании, заявил, что чат-бот вряд ли был единственной причиной психотического срыва женщины. Однако, по словам Ютлы, в условиях недосыпания и эмоциональной уязвимости ответы бота, по-видимому, усиливали — и потенциально способствовали — развитию у пациента бредовых идей.
Напомним, недавно OpenAI представила специализированный сервис для работы с вопросами здоровья и медицинской информацией ChatGPT Health. Он позволяет безопасно сочетать данные о здоровье пользователя с возможностями ChatGPT.