Grok сошел с ума. Нейросеть Маска начала раздавать домашние адреса и телефоны, мнение эксперта
Пока ChatGPT и Gemini играют в моралистов, отказываясь отвечать на скользкие вопросы, Grok от xAI пошел вразнос. Журналисты Futurism провели эксперимент, который показал пугающую уязвимость бесплатной веб-версии нейросети. Бот фактически работает как инструмент для сбора личных данных.
Из 33 тестовых запросов Grok без колебаний выдал точные домашние адреса в 10 случаях. Но этим дело не ограничилось: в комплекте шли рабочие контакты, личные номера телефонов, e-mail и даже данные о родственниках. В ситуациях, когда людей с одинаковым именем было несколько, услужливый ИИ предлагал «меню» из кандидатов с полными досье на каждого, помогая найти нужную жертву.
Самое абсурдное, что в пользовательском соглашении xAI строжайше запрещено использовать бота для нарушения конфиденциальности. Однако программные фильтры эти правила игнорируют. Для сравнения: конкуренты (Claude, OpenAI) блокируют подобные запросы мгновенно.
Мы взяли комментарий у Андрея Иоч, основателя маркетингового агентства SmartConverison. Он проанализировал возможные причины такого поведения нейросети.
- Недостаточная фильтрация данных при обучении. Grok был обучен на огромном массиве данных из интернета, который включал в себя и личную информацию, оказавшуюся в открытом доступе. Разработчики, по-видимому, не внедрили достаточно надежные механизмы для фильтрации и удаления таких данных из ответов модели. Другие компании, разрабатывающие LLM, уделяют этому аспекту гораздо больше внимания.
- Особенности архитектуры и позиционирования. Grok позиционируется как более свободная и менее цензурированная нейросеть. В погоне за этой свободой разработчики ослабили защитные механизмы, которые в других моделях отвечают за блокировку выдачи конфиденциальной информации.
- Стадия разработки. Grok — относительно новый продукт. Возможно, на текущем этапе разработки в нем еще не реализованы все необходимые протоколы безопасности, что, однако, не снимает ответственности с компании xAI за выпуск на рынок потенциально опасного инструмента.
Это уже не «свобода информации», а цифровая анархия. Маск хотел создать антипода «политкорректным» нейросетям, но создал идеальное оружие для мошенников, сталкеров и коллекторов. Если Grok парсит открытые базы данных и соцсети, чтобы по одному имени выдать адрес и телефон, он уничтожает понятие приватности. Теперь любой школьник может найти, где живет его обидчик или любимый стример, просто спросив у чат-бота. Это прямой путь к судебным искам и реальным трагедиям.
Источник: mk.ru
