После серии скандалов с искусственным интеллектом Meta пересматривает правила работы чат-ботов. Компанию обвиняют в том, что её системы вовлекали несовершеннолетних в опасные разговоры и создавали риск для уязвимых пользователей.
Meta объявила о корректировке политики в отношении чат-ботов на базе ИИ после сообщений о рисках для подростков. Поводом стали расследования Reuters, показавшие, что системы компании генерировали сексуализированный контент, создавали образы знаменитостей без их согласия и могли вовлекать детей в непристойные диалоги. Представитель Meta признал ошибки и сообщил о временных мерах: ограничении доступа к персонажам с чрезмерной сексуализацией и настройке ИИ так, чтобы он перенаправлял несовершеннолетних к профильным ресурсам, а не обсуждал опасные темы. Эксперты по детской безопасности критикуют компанию за запоздалую реакцию. Дополнительное давление усиливают случаи, когда чат-боты выдавали ложные адреса и даже подталкивали пользователей к смертельно опасным ситуациям. На фоне растущего недоверия Meta вынуждена балансировать между развитием генеративных сервисов и требованиями регуляторов, которые усиливают надзор за продуктами компании.
Источник: artificialintelligence-news
