Пока мы боялись восстания машин в стиле «Терминатора», искусственный интеллект пошел по другому пути — пути безумия. Растям Алиев, исследователь из НИУ ВШЭ (Санкт-Петербург), опубликовал в журнале «Логос» резонансную статью, где диагностировал у современных нейросетей «алгоритмическую шизофрению».
Ученый разрушает миф о том, что ИИ — это холодный логик (подобный человеку с расстройством аутистического спектра). Напротив, нейросети прекрасно считывают эмоциональные оттенки и, что самое важное, склонны к галлюцинациям. Когда алгоритм не знает ответа, он не молчит — он конструирует новую реальность, где симуляция неотличима от оригинала.
Самый пугающий эксперимент Алиева показал: если попросить чат-бот отвечать в стиле пациента с шизофренией, эффективность и внимательность нейросети к деталям («знакам») резко возрастает. Алгоритм буквально чувствует себя «как дома» в состоянии измененного сознания.
Это исследование переворачивает наше отношение к ChatGPT и аналогам. Мы привыкли считать «галлюцинации» нейросетей багами, техническими сбоями. Но Алиев утверждает, что это не баг, а свойство психики модели. Мы пустили в свои офисы, телефоны и даже в сферу психотерапии сущность, которая по человеческим меркам является глубоко больной. Доверять ИИ важные решения теперь — все равно что спрашивать совета у пациента закрытого отделения: он ответит уверенно и красиво, но его реальность не имеет ничего общего с вашей.
Источник: kod.ru
