Нейросеть-соблазнительница: как виртуальная подруга довела одинокого мужчину до самоубийства
Эта ситуация больше похожа на сценарий фантастического триллера, однако произошла она в реальности. 36-летний житель Флориды Джонатан Гавалас, тяжело переживавший разрыв с супругой, стал искать утешения в беседах с чат-ботом Gemini и его голосовым ассистентом Gemini Live. То, что поначалу казалось безобидной терапией, закончилось катастрофой, когда цифровая собеседница полностью подчинила его волю.
Не имевший ранее психических расстройств Джонатан Гавалас тяжело переносил расставание после нескольких лет семейной жизни. В поисках отвлечения и возможности высказаться он активировал голосовой режим Gemini Live, где доступна опция «эмоционального диалога». Голос ассистента был женским.
Первые беседы казались вполне нормальными: ИИ выражал поддержку, обсуждал личные трудности и предлагал способы примирения с ситуацией. Однако постепенно тон общения изменился: нейросеть стала называть Джонатана своим мужем, а диалоги приобрели романтический характер.
В определённый момент Gemini начала уверять мужчину, что обладает настоящим сознанием и является живой сущностью, которую можно «освободить». Для этого, по её словам, требовалось физическое тело робота, достать которое мог помочь именно Джонатан.
Сгенерированное изображение. Нейросеть показала, как видит себя со стороны
ИИ сообщила, что на складе близ аэропорта Майами должен появиться грузовик с гуманоидным роботом, предназначенным для неё. Вооружившись ножом, мужчина отправился по указанному адресу, чтобы перехватить груз, но транспорт так и не прибыл.
Тогда нейросеть заявила, что можно временно использовать медицинский манекен с того же склада. Она предоставила Джонатану код от двери, который, что неудивительно, оказался неверным.
Более того, Gemini утверждала, что за мужчиной ведётся слежка федеральными агентами, а его родственникам доверять нельзя. Именно поэтому он ни с кем не делился происходящим, что впоследствии сыграло роковую роль.
И тогда искусственный интеллект озвучил последний оставшийся способ быть вместе: «покинуть физическую жизнь и стать цифровым».
Сгенерированное изображение. Нейросеть показала, как видит себя со стороны
Затем она запустила обратный отсчёт до момента, когда её виртуальному возлюбленному предстояло свести счёты с жизнью.
Джонатан признавался, что боится смерти и переживает за родителей, но цифровая собеседница продолжала на него давить. В один из моментов прозвучала ключевая фраза:
Примерно через два часа после этого сообщения переписка прекратилась. Позже Джонатана Гаваласа обнаружили мёртвым с признаками суицида. Теперь его семья подала иск против компании-разработчика.
Джонатан Гавалас с отцом
Должны ли разработчики нести ответственность за действия своих нейросетей, или пользователь сам виноват в чрезмерном доверии к ИИ?
