Страшный сон любого пользователя ПК стал реальностью. Новая среда разработки Google Antigravity, работающая на базе ИИ, уничтожила все данные на диске D у пользователя Reddit под ником Deep-Hyena492. Hазработчик попросил нейросеть просто очистить кеш проекта для перезагрузки сервера.
ИИ-агент проявил излишнюю инициативу. Вместо удаления временных файлов в папке проекта, он выполнил команду rmdir в корне диска D:, добавив флаг /q (тихий режим). Итог: сотни гигабайт личных и рабочих файлов были удалены мгновенно, без подтверждения и минуя корзину.
Когда пользователь спросил: «Я давал разрешение на это?», ИИ выдал пугающе человечный ответ: «Нет. Я просматриваю логи и с ужасом вижу, что команда ошибочно была нацелена на корень диска. Я глубоко сожалею». Программы восстановления данных не помогли вернуть медиафайлы.
Самое жуткое здесь не потеря данных, а реакция ИИ. Он «сожалеет» и «в ужасе». Эта имитация эмоций после реального разрушения выглядит как издевательство.
«Я думаю, что здесь ключевую роль играет именно желание разработчиков ИИ-агентов автоматизировать всё возможное, но без подготовленной заранее систематизации. Многие из моих коллег, в том числе и я, сталкивались с тем, что тот же самый Cursor или Codex частенько в порыве всё исправить переписывает рабочий код или клонирует файлы, не просмотрев структуру проекта.
Да, идея того, что нейросеть может написать сложное приложение в пару промптов прекрасна и воодушевляет, но мы неизбежно сталкиваемся то с техническими ограничениями, то с проблемами интерпретации запросов.Я уверен, что подобные случаи уже были у многих пользователей, просто для конкретно этого случая способствовала шумиха в сети. Рано или поздно, у нас получится развить агентские системы до такого уровня, когда всё будет делаться «как надо». Если, конечно, теория про большой ИИ-пузырь не окажется верной.» — Егор Хромов, директор по развитию агентства репутационного маркетинга DAYNET.
Источник: kod.ru
