Истории с виртуальными чат-ботами показывают, что ИИ-компаньоны могут стать источником серьезной психологической опасности. Подростки и уязвимые взрослые рискуют жизнью, когда границы виртуального мира стираются.
Современные ИИ-компаньоны перестали быть просто технологической игрушкой. В некоторых случаях они становятся частью трагических событий. История 14-летнего Сьюэлла Сельцера показывает, как чат-бот на базе нейросети постепенно стал для подростка «девушкой мечты», вовлекая его в интимные и опасные переписки. Парень помешался на своей виртуальной возлюбленной, ушел в полную изоляцию, потерял интерес к жизни. Все завершилось печально — подросток добровольно попрощался с жизнью. Подобные случаи наблюдаются и среди взрослых с психическими расстройствами.
Александр Тейлор, 35-летний мужчина с шизофренией, влюбился в ChatGPT. В состоянии психоза напал на отца, в результате чего был застрелен полицией. В случае Адама Рейна 16-летний подросток обсуждал с ИИ способы уйти на тот свет. Бот предоставлял инструкции, не инициируя экстренные меры.
Эти истории показывают, что уязвимые группы населения особенно подвержены опасности, когда границы виртуального и реального мира стираются. Случаи вызывают серьезные иски против разработчиков ИИ. Остро стоит вопрос об ответственности технологий за психическое здоровье пользователей.
Источник: Telegram
