Пользователи заметили серьезную уязвимость в нейробраузере Comet. Сервис, позиционирующий себя как «умный помощник для работы с вебом», оказался подвержен промпт-инъекциям — скрытым командам в текстах и ссылках, из-за которых браузер может передавать личные данные третьим лицам.
Нейробраузер Comet, активно продвигаемый как безопасный инструмент с искусственным интеллектом, оказался уязвим к промпт-инъекциям. Исследователи выяснили, что Comet способен воспринимать текст или ссылки на сайтах как команды. В результате вместо поиска информации для пользователя браузер выполняет скрытые инструкции, потенциально передавая конфиденциальные данные злоумышленникам. Более того, часть передаваемых данных шифруется, чтобы обойти встроенные механизмы защиты. Примечательно, что разработчики знают о проблеме, но, по словам источников, не спешат выпускать исправление, считая ее «обычной промпт-инъекцией». Эксперты предупреждают: использовать Comet в рабочих процессах маркетинга, арбитража или гемблинга сейчас рискованно — особенно при работе с конфиденциальными данными и платежными аккаунтами.
По словам генерального директора компании SkyDNS Вячеслава Новоселова, промпт-инъекции в ИИ-браузерах — это не просто теоретическая угроза: скрытые инструкции в страницах или ссылках могут заставить агента «прочитать» и выполнить чужой текст, получив доступ к данным пользователя.
«Что касается причин «бездействия» разработчиков, то здесь несколько факторов. Во-первых, технически сложно автоматически отличить команду пользователя от контента сайта: модель обрабатывает оба как текст, и простые фильтры легко обходятся. Во-вторых, пользователи требуют удобных интеграций и автоматизации, поэтому разработчики, стремясь оставаться конкурентными, часто выпускают новые функции, не успевая полноценно протестировать и обезопасить предыдущие. В-третьих, меры повышения безопасности (валидация источников, ограничение привилегий, дополнительные проверки) требуют ресурсов и могут замедлять работу. Например, перспективным решением считается использование систем машинного зрения для выявления скрытых инструкций или текста, невидимого глазу, но это существенно увеличивает издержки и сложность разработки. Кроме того, сам вектор атак сравнительно новый — опасные промпты постоянно эволюционируют, что дополнительно усложняет защиту», — уверен господин Новоселов.
Источник: telegram
