Агентные ИИ-ассистенты обещают революцию в работе с информацией, но сталкиваются с фундаментальным структурным противоречием. Контекст, который делает эти инструменты по-настоящему полезными — финансовые документы, приватные файлы клиентов, юридические договоры — это именно тот контекст, который пользователи не могут или не хотят отправлять на внешние облачные серверы. Безопасность и конфиденциальность часто вступают в конфликт с мощностью облачных вычислений. На этой неделе компания Perplexity представила решение, которое пытается примирить эти два мира. Они запустили функцию «Hybrid Compute» (гибридные вычисления) для Mac, позволяющую разделить задачу между передовыми облачными моделями и компактной моделью, работающей непосредственно на вашем компьютере.
Суть подхода заключается в том, что Perplexity Computer теперь не просто отправляет все запросы в облако. Вместо этого система использует «шлюз конфиденциальности» (privacy gate), работающий на устройстве, чтобы решать, какие данные могут покинуть ваш Mac, а какие должны оставаться локально. Это не просто локальный режим работы, а сложная оркестрация, где облако и локальное устройство работают в тандеме. Более того, Perplexity открыла исходный код классификатора, стоящего за этим шлюзом, что позволяет сообществу проверить и оценить надежность системы защиты данных.
01Доступность и технические требования
Функция гибридных вычислений уже доступна для подписчиков уровней Pro, Max и Enterprise. Однако, чтобы воспользоваться этой технологией, необходимо соответствовать определенным аппаратным и программным требованиям. Функция работает на любых Mac с чипом Apple Silicon, работающих под управлением macOS 15 или новее. Ключевым ограничением является объем оперативной памяти: требуется минимум 24 ГБ унифицированной памяти, хотя Perplexity настоятельно рекомендует использовать устройства с 32 ГБ для обеспечения плавной работы.
Процесс установки максимально упрощен для пользователя. Локальная модель устанавливается в один клик прямо из приложения Mac. Вам не нужно устанавливать сторонние среды выполнения, такие как Ollama, настраивать API-ключи или беспокоиться о сложных конфигурациях. Это критически важно для массового внедрения, так как большинство пользователей не являются инженерами. Кроме того, важно отметить, что вычисления, выполняемые локально на вашем Mac, не消耗 (не расходуют) облачные кредиты. Это означает, что вы можете использовать локальные ресурсы для обработки чувствительных данных, не увеличивая свои расходы на подписку.
02Как работает оркестрация: от облака к локальному устройству
Архитектурное решение Perplexity заключается в направлении оркестрации. Perplexity Computer начинает каждую задачу в облаке. Здесь передовые (frontier) модели занимаются поиском в интернете, планированием и долгосрочным логическим выводом. Облачные модели обладают огромным контекстным окном и доступом к актуальной информации, что делает их идеальными для начального этапа обработки запроса.
Однако, когда шаг задачи касается приватных файлов или чувствительных данных, Computer передает этот конкретный шаг локальной модели на вашем Mac. Это происходит без перезапуска задачи и без потери контекста. Обе половины — облачная и локальная — затем объединяются в один результат. Этот подход инвертирует режим локальных вычислений, который Perplexity представила неделю назад для NVIDIA DGX Spark. В том случае задача начиналась на оборудовании пользователя и при необходимости эскалировалась к облачным моделям с разрешения. Здесь же мы видим обратную логику: облако управляет процессом, но отдает контроль над данными на устройство.
03Шлюз конфиденциальности: сердце системы
Самым важным компонентом этой архитектуры является шлюз конфиденциальности (privacy gate). Прежде чем что-либо из защищенного файла достигнет облака, локальный классификатор проверяет его. Шлюз применяет одно из четырех действий: оставить данные локально, замаскировать чувствительные участки, отказать в действии или запросить согласие пользователя. Наиболее строгая обработка применяется к учетным данным, номерам банковских карт и государственным удостоверениям личности.
Механизм маскировки работает следующим образом: чувствительные значения заменяются заглушками (stand-ins) при отправке данных в облако и восстанавливаются, когда ответ от облака возвращается обратно на устройство. Это позволяет использовать мощь облачных моделей для анализа текста, не раскрывая при этом сами персональные данные. Для корпоративных пользователей (Enterprise) администраторы могут устанавливать правила на уровне организации: что должно оставаться на устройстве, что может быть замаскировано, а что требует явного одобрения. Также ведутся журналы аудита (audit logs) для отслеживания того, когда информация покидает машину.
04PII-Tracer: технология обнаружения персональных данных
За шлюзом конфиденциальности стоит модель PII-Tracer — двунаправленный энкодер объемом 0.6 миллиарда параметров, адаптированный на базе архитектуры Qwen3. В отличие от стандартных моделей, использующих причинно-следственную маску, PII-Tracer использует двунаправленное внимание, Aware к заполнению (padding-aware), с окном в 4096 токенов. Линейная головка тегирования выдает 37 меток: одну метку «вне диапазона» и позиции BIOES для каждого из девяти типов персональных идентифицирующих информации (PII). Дополнительная головка предсказывает, содержит ли разговор чувствительные материалы.
Обучение модели проводилось в течение трех эпох на выборке из примерно 714 000 образцов. Для разрешения последовательности меток во время вывода используется ограниченный декодер Витерби. Это позволяет модели эффективно работать с длинными контекстами, что критически важно для анализа документов и переписки.
05Результаты тестирования и сравнение с конкурентами
Результаты работы PII-Tracer впечатляют. В сравнении с 12 другими детекторами, PII-Tracer показывает наивысший F1-балл на уровне символов (0.629) и второй лучший результат по перекрытию и содержанию спанов (span-overlap и span-containment F1), уступая только GPT-5.6-sol. Однако в показателе согласованности (consistency) PII-Tracer лидирует с большим отрывом: он находит каждое упоминание для 79.4% повторяющихся идентификаторов и 77.6% кросс-повторяющихся идентификаторов, в то время как GPT-5.6-sol показывает результаты 57.0% и 55.1% соответственно.
В самой сложной категории (от 6 до 10 упоминаний одного идентификатора) PII-Tracer набирает 0.691, тогда как GPT-5.6-sol — 0.464, GLiNER2-PII — 0.073, а Claude Opus 4.8 — всего 0.045. Это демонстрирует превосходство модели в задачах, требующих отслеживания одних и тех же данных через длинные фрагменты текста.
Интересно отметить, что однократное окно (single-window) снижает полноту обнаружения (recall) с 0.975 для разговоров короче 1000 символов до 0.687 для разговоров длиннее 10 000 символов. Решение Perplexity заключается не в переобучении модели, а в изменении процесса декодирования: использование скользящих окон с 50% перекрытием поднимает общую полноту обнаружения на уровне символов с 0.830 до 0.965, а согласованное обнаружение множественных упоминаний — с 0.794 до 0.954 на том же чекпоинте.
06Локальные модели и доступность
На момент запуска Perplexity предлагает три локальные модели: Gemma 4 E4B, Qwen3.6 35B-A3B и собственную модель Perplexity, дообученную для работы с Computer. В процессе настройки на странице продукта предлагается скачать PPLX Qwen 3.8 27B. Соответствующие сборки доступны в организации Perplexity на Hugging Face, включая pplx-computer-qwen-3-8-27b и pplx-pii-masking-vllm — модель классификации токенов объемом 0.6B, стоящая за шлюзом.
07Что это значит на практике
Внедрение гибридных вычислений Perplexity знаменует собой сдвиг парадигмы в использовании ИИ-ассистентов. Раньше пользователи были вынуждены выбирать между мощностью облачных моделей и конфиденциальностью локальных вычислений. Теперь эта дихотомия преодолевается. Для обычных пользователей это означает возможность использовать мощные функции поиска и анализа, не беспокоясь о том, что их личные данные будут сохранены на сторонних серверах. Для корпоративных клиентов это открывает путь к внедрению ИИ в процессы, связанные с обработкой конфиденциальной информации, без необходимости развертывания сложной локальной инфраструктуры.
Технология PII-Tracer демонстрирует, что локальные модели могут быть достаточно эффективными для критически важных задач фильтрации данных. Высокие показатели согласованности в обнаружении повторяющихся идентификаторов говорят о том, что система надежна даже в сложных сценариях. Открытие исходного кода классификатора также способствует развитию сообщества и позволяет независимым экспертам проверить безопасность системы.
В будущем мы можем ожидать, что подобные гибридные архитектуры станут стандартом для ИИ-приложений, работающих с чувствительными данными. Комбинация облачной мощи для общих задач и локальной безопасности для специфических данных позволяет создать более гибкие, эффективные и безопасные решения. Perplexity, запустив эту функцию на Mac, показывает путь, по которому, вероятно, пойдет вся индустрия, адаптируя свои продукты под растущие требования к приватности и безопасности данных.
Источник: MarkTechPost ↗