Новый ИИ-агент Muse компании Meta оказался в центре обсуждения из-за возможных нарушений конфиденциальности пользователей. Сотрудники компании сообщили о случаях, когда система получала доступ к личным сообщениям, присылала неожиданную информацию о банковских счетах и выполняла действия без разрешения. Некоторые проблемы удалось воспроизвести во время независимого тестирования, передает ru.malim.kz со ссылкой на Reuters.
Приложение Muse, запущенное в сентябре 2026 года, стало одним из самых быстрорастущих цифровых продуктов. За несколько месяцев его скачали более 10 миллионов раз. Meta рассчитывает превратить ИИ-агента в один из основных источников дохода от искусственного интеллекта, однако уже на начальном этапе его работы возникли вопросы о безопасности персональных данных.
Журналисты Reuters изучили более двух десятков внутренних сообщений сотрудников Meta, в которых описывались неожиданные действия Muse. В частности, пользователи получали уведомления о покупках, которых не совершали, советы, за которыми не обращались, и сведения о финансовых операциях, не связанных с их запросами.
В одном из случаев ИИ-агент неожиданно сообщил сотруднику компании остатки на двух банковских счетах. В другом — напомнил женщине о необходимости ответить сестре в мессенджере Signal, хотя она утверждала, что не предоставляла Muse доступ к этому приложению.
"Это выглядит как чрезвычайно серьезное нарушение конфиденциальности. Я совершенно точно не предоставляла ему доступ к другим приложениям и не помню, чтобы меня об этом спрашивали", – написала сотрудница Meta.
Как ИИ получил доступ к зашифрованным сообщениям
Чтобы проверить сообщения сотрудников, Reuters совместно со специалистами Signal и исследовательской организации AI Now Institute провело серию испытаний. Выяснилось, что на устройствах Android и компьютерах Mac агент мог получать текст сообщений Signal через системные разрешения, предоставленные при первоначальной настройке.
На Android Muse использовал доступ к push-уведомлениям, а на macOS — функции универсального доступа и создания снимков экрана. При этом сам мессенджер не обязательно должен был быть подключен к ИИ-агенту через специальный инструмент Meta.
Во время аналогичного тестирования на iPhone доступ к сообщениям был заблокирован. После публикации результатов Apple сообщила об изменениях в операционной системе, ограничивающих подобное использование функций универсального доступа.
Президент Signal Мередит Уиттакер раскритиковала подход Meta к защите пользовательской информации. Она призвала технологические компании разработать механизмы, позволяющие приложениям ограничивать доступ ИИ-агентов к конфиденциальным данным.
Muse совершал покупки и отправлял чужие сообщения
Проблемы касались не только переписок. По словам сотрудников Meta, агент иногда сообщал о несуществующих финансовых операциях, придумывал цены товаров и самостоятельно предпринимал действия, которых пользователь не поручал.
Один из сотрудников рассказал, что Muse без разрешения забронировал жилье через Airbnb по невозвратному тарифу. Другие получали сообщения о покупке мебели, запросах, связанных с детьми, и остатках криптовалюты, хотя не обсуждали с агентом подобные темы.
Особую обеспокоенность вызвали уведомления, которые выглядели как фрагменты чужих разговоров. Сотрудники предположили, что система может ошибочно смешивать информацию из разных учетных записей.
При этом Reuters не смогло установить, действительно ли Muse раскрывал чужие банковские данные или самостоятельно генерировал вымышленные сведения.
Что ответили в Meta
Представитель компании Дэниел Робертс назвал описанные случаи единичными и заявил, что Meta постоянно совершенствует защиту своих продуктов. По его словам, многие подозрительные сообщения были результатом так называемых галлюцинаций искусственного интеллекта, когда система выдает недостоверную или полностью вымышленную информацию.
В компании подчеркнули, что Muse необходим доступ к устройствам для выполнения поручений пользователей, однако подключение к сторонним приложениям должно происходить на основании предоставленных разрешений.
Вместе с тем внутренние сообщения показали, что отдельные проблемы продолжали возникать с сентября по ноябрь. Разработчики признали наличие ошибок как в самой ИИ-модели, так и в программных механизмах, позволяющих агенту самостоятельно выполнять действия.
Ситуация с Muse привлекла внимание к более широкой проблеме безопасности ИИ-агентов. В отличие от обычных чат-ботов, такие системы могут взаимодействовать с приложениями, управлять файлами, совершать покупки и выполнять другие действия от имени пользователя. Именно поэтому ошибки в их работе способны затрагивать не только достоверность ответов, но и конфиденциальность личной информации и финансовую безопасность.
