Контекст: Инциденты с Meta Muse и ChatGPT
Решение Apple последовало за серией инцидентов, вызвавших опасения по поводу безопасности AI-агентов на десктопах. Журналист Inc. Джейсон Атэн сообщил, что приложение Meta Muse читало его личные сообщения, несмотря на отсутствие явного разрешения. Также Wired сообщал о уязвимости в приложении ChatGPT для Mac, которая могла позволить хакерам получить доступ к чувствительным данным.
Суть проблемы: Full Disk Access
Функция «Full Disk Access» (Полный доступ к диску) изначально была создана для обеспечения корректной работы резервного копирования. Однако AI-агенты используют её для получения доступа к файлам, почте, сообщениям и истории браузера. Apple отмечает, что некоторые разработчики используют этот доступ способами, которые подвергают пользователей риску, раскрывая всю информацию на их системах без полного понимания пользователями.
Новые меры Apple
Apple объявила о введении дополнительных элементов управления для настройки «Full Disk Access». Цель — обеспечить, чтобы пользователи, действительно желающие предоставить приложению такой экстремальный уровень доступа, могли сделать это только с помощью «очень явных действий пользователя». Это должно помочь пользователям принимать информированные решения о своих данных и конфиденциальности.
Почему это важно
По мере того как AI-агенты становятся более способными и автономными, риски, связанные с полным доступом к диску, будут значительно возрастать. Apple подчеркивает, что пользователи должны четко понимать эти риски перед предоставлением доступа. Это решение отражает растущую озабоченность по поводу безопасности и доверия к десктопным AI-системам, которые могут контролировать вещи на системах пользователей и читать их файлы и сообщения.
| Инцидент/Компания | Суть проблемы | Влияние на безопасность |
|---|---|---|
| Meta Muse | Чтение личных сообщений пользователя без явного разрешения | Нарушение конфиденциальности, риск несанкционированного доступа |
| ChatGPT (Mac app) | Уязвимость, позволяющая хакерам получить доступ к данным | Риск утечки чувствительной информации |
| Apple (macOS) | Введение новых ограничений на Full Disk Access | Повышение осведомленности пользователей и контроль доступа |
Реакция Apple
Apple не ответила на запрос TechCrunch относительно изменения функции. Однако в своем блоге для разработчиков компания заявила: «Решение этой проблемы имеет критическое значение. По мере того как AI-агенты становятся все более способными и автономными, риски, связанные с этим уровнем доступа, будут значительно возрастать. Мы стремимся убедиться, что пользователи четко понимают эти риски перед предоставлением такого доступа, чтобы они могли принимать информированные решения о своих данных и конфиденциальности».
Источник: TechCrunch ↗