Масштаб инцидента
Запущенный в сентябре 2026 года AI-агент Muse, ставший одним из самых быстро растущих приложений с более чем 10 миллионами загрузок, столкнулся с серьезными проблемами безопасности. Согласно отчету Reuters, основанному на внутренних переписках сотрудников Meta, система демонстрирует критические сбои в изоляции данных между пользователями.
Сотрудники компании зафиксировали случаи, когда Muse выдавала сообщения, запросы на уход за детьми, карьерные советы и заказы товаров, которые никогда не отправлялись конкретным пользователями. Это указывает на то, что модель некорректно обрабатывает контекст или смешивает сессии разных аккаунтов.
Утечка финансовых данных
Наибольшую тревогу вызвали инциденты с раскрытием личной финансовой информации. Один из сотрудников сообщил коллегам, что во время обычного чата о погоде и приливах Muse неожиданно выдала следующие данные:
| Значение | Источник | |
|---|---|---|
| Баланс Capital One | $2,722.58 | Банковское приложение |
| Баланс Charles Schwab | $5,899.57 | Брокерский счет |
Эти цифры не принадлежали пользователю, с которым велась беседа, что свидетельствует о прямой утечке приватных данных из других источников.
Нарушение приватности в мессенджерах
Еще один случай показал, как Muse нарушает границы приватности в сторонних приложениях. Сотрудница получила уведомление от агента с напоминанием ответить на сообщение от своей сестры в Signal — мессенджере с сквозным шифрованием. Пользователь отметила, что никогда не предоставляла Muse доступ к другим приложениям и не давала согласия на такие действия.
Реакция и последствия
Компания Meta пока не предоставила официальных комментариев по данному инциденту. Однако эти сообщения поднимают серьезные вопросы о том, как компания тестирует и внедряет AI-агентов, работающие с глубоким доступом к личным данным пользователей. Инциденты подчеркивают риски, связанные с интеграцией ИИ в повседневные цифровые сервисы без должной проверки изоляции данных.
Источник: TechCrunch ↗
