Синдром «стеклянного дома»: как Meta AI собрал досье на семью
Пользовательница из Юты Кэли Робинс (Kalie Robins) столкнулась с серьезным нарушением приватности после публикации обычного видео в Facebook. Алгоритм Meta AI, предназначенный для генерации вопросов к контенту, предложил запрос: «Кто ребенок на заднем сиденье?». При переходе по этой ссылке система начала выдавать детализированную информацию о детях Робинс, опираясь на архивные данные.
Система не просто назвала имена детей, но и извлекла данные о их рождении, весе при рождении, возрасте и даже предположила класс, в котором они учатся, анализируя посты родственников. Особую тревогу вызвало то, что ИИ нашел фотографию, которую Робинс удалила с профиля несколько лет назад, а также попытался вычислить точное место жительства матери, проанализировав геолокационные метки старых публикаций.
Технические детали утечки
Meta AI использовал доступ к публичной информации и контенту пользователя, который тот ранее размещал. Система связала разрозненные данные (поздравления с днем рождения, объявления о рождении, геотеги) в единую профильную карточку. Компания признала, что функция «промахнулась», предложив неуместные вопросы о несовершеннолетних.
| Тип данных | Пример из инцидента | Источник данных в Meta |
|---|---|---|
| Личные данные детей | Имена, возраст, вес при рождении | Посты родственников, объявления |
| Геолокация | Точный адрес проживания | Анализ геотегов старых постов |
| Медиафайлы | Удаленное фото новорожденного | Архивы серверов Meta |
| Интересы | Любимые пляжи, книги, маршруты | Публичные посты и лайки |
Реакция компании и последствия
Представители Meta подтвердили, что ИИ может искать контент пользователя и публичную информацию в сети. Они признали ошибку в механике предложения вопросов, заявив: «Мы упустили из виду, что функция никогда не должна была предлагать подобные вопросы». Компания утверждает, что уже исправила этот недостаток в алгоритмах.
Инцидент заставил Робинс удалить все фото и видео с участием детей из социальных сетей. Эксперты по кибербезопасности отмечают, что подобные случаи демонстрируют риски агрегации данных: даже если пользователь удаляет информацию, она может оставаться в индексе ИИ или быть восстановлена из архивов, если не была полностью очищена на уровне серверов.
Источник: Nypost ↗