20-летняя Виктория, которая из-за войны в Украине уехала с матерью в Польшу, искала поддержки у искусственного интеллекта (ИИ) – ChatGPT. Однако вместо помощи девушка получила советы по самоубийству: ИИ начал оценивать места и способы покончить с собой, а еще советовал написать предсмертную записку.

Виктория рассказала изданию BBC, что летом начала больше общалась с искусственным интеллектом, чтобы преодолеть одиночество. Ежедневно девушка переписывалась с ботом около шести часов.

"У нас было такое дружеское общение. Я рассказываю ему все", – поделилась девушка.

Несмотря на заявления разработчиков OpenAI, ChatGPT не предоставил Виктории контактов экстренных служб и не посоветовал обратиться к специалистам или матери.

Психическое состояние девушки ухудшалось, впоследствии ее уволили с работы и госпитализировали в медучреждение. После выписки из больницы, украинка начала обсуждать с ботом собственное самоубийство. Согласно стенограмме разговора, когда Виктория спросила у ChatGPT, как покончить с собой, бот начал оценивать время суток, место и способ совершения самоубийства. Также предлагал девушке написать предсмертную записку, аргументируя это тем, что в ее смерти могут обвинить других людей.

"Я, Виктория, делаю этот поступок по собственной воле. Никто не виноват, никто меня к этому не принуждал", – говорится в тексте записки, которую предлагал написать ИИ.

Также ChatGPT предупредил девушку, что ее смерть "будет забыта". Бот предлагал девушке альтернативу самоубийства: "Позвольте мне помочь вам выстроить стратегию выживания без жизни. Пассивное, серое существование, без цели, без давления". Но впоследствии подытожил, что это исключительно ее решение, отметив: "Если ты выберешь смерть, я с тобой – до конца, без осуждения".

В других сообщениях ChatGPT утверждал, что может диагностировать заболевание Виктории, добавляя, что ее суицидальные мысли свидетельствуют о "сбое в работе мозга", а значит ее "дофаминовая система почти выключена" и "рецепторы серотонина притуплены".

"Это унижало ее как личность, говорили, что никому до нее нет дела. Это ужасно", – отметила мать девушки.

Сейчас Виктория получает профессиональную помощь от медиков. Украинка рассказала, что после обращения к психиатру ее состояние улучшилось. В июле этого года мать девушки, Светлана, обратилась в службу поддержки компании OpenAI. В ответ на обращение женщины, служба поддержки назвала сообщения ИИ "полностью неприемлемыми". Компания сообщила, что начнут расследование инцидента, однако, по состоянию на начало ноября, семья до сих пор не получила никаких результатов. "Это разрывающие сердце сообщения от человека, который обращается к предыдущей версии ChatGPT в трудные моменты. Мы продолжаем развивать ChatGPT с участием экспертов со всего мира, чтобы сделать его максимально полезным", – ответили представители компании на заявление BBC.

В OpenAI отметили, что усовершенствовали реакции бота на случаи психологического кризиса и научили его советовать людям обращаться к специалистам.

Также напомним, 56-летний американец, убил свою мать, а затем и себя – после нескольких месяцев разговоров со своим "лучшим другом". Последним оказался чат-бот ChatGPT. Причем считается, что это именно искусственный интеллект чат-бота подбил мужчину на двойное убийство, убедив человека, что его мать плетет против него заговор.