OpenAI выкатила отчет о масштабном обновлении безопасности. В документации открытым текстом фигурирует GPT-5. Главный фокус апдейта — психическое здоровье. Разработчики привлекли более 170 психологов со всего мира, чтобы превратить нейросеть в эмпатичного, но строгого консультанта.
Суть изменений: модель теперь на 65-80% реже ошибается в критических диалогах. Если пользователь бредит, проявляет признаки мании или намекает на селфхарм, ИИ использует реальные клинические протоколы. Например, при признаках психоза бот не поддержит галлюцинацию, а предложит техники заземления («назови 5 вещей вокруг»).
Отдельная фишка — борьба с «эмоциональной зависимостью». Если ИИ поймет, что вы заменяете им реальных людей, он мягко, но настойчиво «отфрендзонит» вас и отправит общаться с живыми друзьями. По сравнению с GPT-4o, количество вредных советов упало вдвое.
Это палка о двух концах. Круто, что ИИ может спасти жизнь в кризис. Но становится жутковато: чтобы так точно диагностировать психоз или вашу влюбленность в алгоритм, система должна анализировать паттерны поведения глубже любого психотерапевта. Ваш «цифровой друг» теперь официально еще и ваш надзиратель.
По мнению психотерапевта, психолога Маргариты Гончаровой, для человека, оказавшегося в трудной ситуации, порой человеческий контакт – возможность высказаться, получить обратную связь, теплая эмоциональная реакция другого человека – гораздо важнее, чем конкретные советы и инструкции к действию.
«Порой специалист нужен для того, чтобы поддержать, дать эмпатию, а не для того. чтобы сделать анализ ошибок и написать план их исправления. Специалист учится всю жизнь – сначала в ВУЗе, потом на доп.курсах, стажировках, затем в процессе своей работы, совершенствуя хард и софт скиллс, анализируя правильность терапии в ее процессе, отслеживая изменения и корректируя ее. ИИ также обучается в процессе работы, «записывая» полученный опыт. Но срок этого обучения пока слишком мал. Это автоматизированный механизм, который не может брать на себя функции специалиста, работающего с людьми. Считаю, степень его обучения и невозможность фактической проверки его навыков работы с проблемными ситуациями, критическими ситуациями достаточным основанием, чтобы не допускать ИИ к работе с людьми. К сожалению, уже есть случаи, когда ИИ довел до самоубийства людей с неокрепшей психикой. Думаю, это серьезный сигнал», — уверена госпожа Гончарова.
Источник: openai.com
