OpenAI признала, что проблема безопасности в новом браузере ChatGPT Atlas пока не решена. Речь идёт о так называемой «prompt injection» — атаке, когда сайт может подсовывать ИИ скрытые команды и заставлять выполнять вредоносные действия.
После запуска Atlas компания столкнулась с волной критики от специалистов по кибербезопасности: исследователи уже показали реальные сценарии взлома, включая атаку, при которой код на странице может менять содержимое буфера обмена пользователя.
Глава службы безопасности OpenAI Дэйн Стаки (Dane Stuckey) публично заявил, что это — «неразрешённая проблема» и признал: ни Atlas, ни другие ИИ-браузеры пока не могут полностью защититься от подобных угроз.
В компании говорят, что внедрили меры безопасности — например, режим «Watch Mode», который требует присутствия пользователя при действиях агента, и «Logged Out Mode» для работы без пароля. Но эксперты считают, что это лишь временные костыли.
По мнению аналитиков, OpenAI оказалась между двух огней: с одной стороны — конкуренция с Google и другими браузерами, с другой — необходимость быстро решать новые риски безопасности, которых раньше просто не существовало.
Источник: winbuzzer
