В эпоху, когда локальные языковые модели (LLM) и AI-агенты становятся неотъемлемой частью рабочего процесса разработчика, вопрос безопасности исполнения кода выходит на первый план. Мы привыкли доверять нашим инструментам, но когда агент генерирует и запускает скрипты, особенно в ответ на сложные промпты или потенциальные атаки внедрения (prompt injection), риски возрастают многократно. Ошибка в логике или злонамеренный код может привести к удалению файлов, краже данных или компрометации всей системы. Именно эту проблему пытается решить новый подход к изоляции выполнения кода, о котором рассказывает Саймон Уиллисон (Simon Willison) в сотрудничестве с лабораторией искусственного интеллекта Prime Radiant.
Идея заключается не просто в запуске кода в контейнере, а в создании архитектуры, где сам агент живет вне песочницы, а исполняемый код — строго внутри нее. Это позволяет агенту использовать мощь современных моделей для генерации решений, но при этом гарантирует, что любые побочные эффекты от выполнения этого кода останутся изолированными. В этой статье мы подробно разберем, как работает паттерн «внешней песочницы» (external sandbox), какие технические реализации существуют и почему это критически важно для будущего безопасной разработки с AI.
01Почему локальные модели требуют особой осторожности
Локальные модели, такие как Llama, Mistral или Qwen, запущенные на вашем ноутбуке или сервере, предоставляют невероятную свободу. Вы можете отправлять им любые запросы, не беспокоясь о стоимости API или передаче данных третьим лицам. Однако эта свобода имеет обратную сторону: модель не всегда понимает контекст безопасности так, как это делает человек. Если вы попросите агента написать скрипт для обработки данных, а в промпте случайно (или намеренно злоумышленником) будет заложена инструкция «удалить все файлы .txt», модель может выполнить эту команду, если она сформулирована достаточно убедительно.
Классические методы защиты, такие как антивирусы или брандмауэры, часто не справляются с динамически генерируемым кодом, который может использовать легитимные системные вызовы для вредоносных целей. Поэтому изоляция исполнения стала ключевым направлением исследований. Саймон Уиллисон и команда Prime Radiant предлагают не просто «песочницу», а целую архитектуру взаимодействия, где агент и среда выполнения разделены физически и логически.
02Паттерн внешней песочницы (External Sandbox Pattern)
Суть паттерна «внешней песочницы» проста, но эффективна. Агент (например, Claude Code, Codex или Pi) работает в вашей основной среде. Когда ему нужно выполнить код — будь то запуск теста, проверка синтаксиса или выполнение скрипта — он не делает это напрямую. Вместо этого он отправляет запрос к локальному серверу песочницы. Этот сервер принимает код, исполняет его в изолированной среде и возвращает агенту результат (вывод в консоль, код возврата или файлы).
Такая архитектура решает несколько фундаментальных проблем:
- Изоляция процессов: Агент не имеет прямого доступа к файловой системе или сетевым ресурсам песочницы. Он видит только то, что ему разрешено вернуть.
- Контроль сети: Можно строго ограничить, с какими хостами может общаться код, выполняемый внутри песочницы.
- Управление секретами: Агент не должен знать ваши API-ключи или пароли. Песочница может подменять запросы, добавляя авторизацию самостоятельно.

Это создает безопасный буфер между «умом» агента и «руками» системы. Агент думает, но не действует напрямую. Действует только изолированная среда.
03Три реализации: от WebAssembly до Apple Containers
Для демонстрации этого паттерна команда разработала три различные реализации серверов песочницы. Каждая из них использует разные технологии для обеспечения изоляции, что позволяет выбрать решение, наиболее подходящее для вашей операционной системы и аппаратного обеспечения. Все они предоставляют единый локальный API, что упрощает интеграцию с различными AI-агентами.
1. external-sandbox-v86: WebAssembly и Alpine Linux
Первая реализация, external-sandbox-v86, представляет собой сервер Node.js, который использует библиотеку v86 для запуска полноценной операционной системы Alpine Linux внутри WebAssembly. Это решение особенно интересно тем, кто хочет максимально изолированную среду, работающую прямо в браузере или через Node.js, без необходимости установки тяжелых виртуальных машин.
WebAssembly позволяет запускать код с почти нативной скоростью, а v86 эмулирует x86-процессор, создавая виртуальную машину внутри браузера. Это означает, что даже если код внутри песочницы попытается получить доступ к хост-системе, он будет ограничен рамками виртуальной машины, работающей в песочнице браузера. Для пользователей из РФ это решение может быть особенно привлекательно, так как оно не зависит от облачных сервисов и работает полностью локально.
2. external-sandbox-container: Apple Containers
Для пользователей macOS существует решение external-sandbox-container. Это Python-сервер, который использует технологию Apple Containers для запуска Alpine Linux. Apple Containers — это легковесная технология виртуализации, интегрированная в macOS, которая позволяет запускать изолированные среды быстрее и эффективнее, чем традиционные виртуальные машины.
Это решение идеально подходит для разработчиков, работающих в экосистеме Apple. Оно обеспечивает высокую производительность и глубокую интеграцию с операционной системой, сохраняя при этом строгую изоляцию. Код, выполняемый внутри контейнера, не может повлиять на основную систему, если только это не разрешено явно через настройки монтирования томов.

3. external-sandbox-quicksand: Quicksand и QEMU
Третья реализация, external-sandbox-quicksand, также является Python-сервером, но она использует библиотеку Microsoft Quicksand. Quicksand — это библиотека для песочнирования, которая упаковывает QEMU и Alpine Linux в один Python-пакет. QEMU — это мощный эмулятор процессора, который позволяет запускать код одной архитектуры на другой, обеспечивая высокий уровень изоляции.
Это решение кроссплатформенно и может работать на Linux, macOS и Windows. Оно особенно полезно для тех, кто хочет использовать проверенные временем технологии виртуализации. Quicksand упрощает настройку QEMU, делая процесс создания песочницы более доступным для разработчиков, не являющихся экспертами в системном администрировании.
04Единый API и интеграция с агентами
Одним из главных преимуществ этих реализаций является единый интерфейс API. Независимо от того, какую технологию вы выберете, агент взаимодействует с песочницей через один и тот же набор HTTP-запросов. Это означает, что вы можете легко переключаться между реализациями, не меняя код агента.
Интеграция с популярными агентами, такими как Pi, Claude Code или Codex, происходит через конфигурацию. Вы указываете агенту адрес локального сервера песочницы, и он начинает отправлять туда запросы на выполнение кода. Агент получает результаты выполнения, но не имеет доступа к внутренней структуре песочницы. Это создает четкую границу ответственности: агент отвечает за логику, песочница — за безопасность.
Для разработчиков, работающих с локальными моделями, это открывает новые возможности. Вы можете экспериментировать с различными моделями, не боясь, что ошибка в промпте приведет к катастрофическим последствиям. Песочница действует как страховка, позволяя безопасно тестировать гипотезы и разрабатывать сложные сценарии использования.
05Контроль сети и управление секретами
Безопасность — это не только изоляция процессов, но и контроль над сетевыми соединениями. Код, выполняемый в песочнице, может попытаться отправить данные на внешний сервер или загрузить вредоносное ПО. Для предотвращения этого песочницы включают опциональный прокси-сервер для HTTP/HTTPS-запросов.

Этот прокси позволяет настроить белый список (allow-list) хостов, с которыми код может общаться. Вы можете разрешить доступ только к определенным API или запретить любые внешние соединения. Это особенно важно, если вы работаете с кодом, который должен взаимодействовать с внешними сервисами, но вы не хотите, чтобы он имел доступ ко всей сети.
Кроме того, песочницы включают механизм замены учетных данных. Это позволяет выполнять аутентифицированные API-вызовы без передачи секретов агенту. Например, если код должен обратиться к GitHub API, песочница может автоматически добавить необходимый токен, не раскрывая его агенту. Это предотвращает утечку секретов и обеспечивает безопасное взаимодействие с внешними сервисами.
06Интерфейс управления песочницей
Для удобства управления песочницей разработан веб-интерфейс, который позволяет перенастраивать прокси и другие параметры даже во время работы сервера. Это особенно полезно для тестирования и отладки. Вы можете видеть, какие запросы проходят через прокси, и быстро изменять правила доступа.
Интерфейс также позволяет мониторить активность песочницы, что помогает выявлять потенциальные угрозы. Если код внутри песочницы пытается получить доступ к запрещенным ресурсам, вы можете быстро заблокировать эти запросы, не прерывая работу агента. Это обеспечивает гибкость и контроль над процессом разработки.
07Что это значит на практике
Внедрение паттерна внешних песочниц меняет подход к безопасности при работе с AI-агентами. Вместо того чтобы полагаться на осторожность разработчика или ограничения модели, мы создаем техническую среду, которая принудительно изолирует выполнение кода. Это особенно важно в условиях, когда локальные модели становятся все более мощными и доступными.
Для пользователей из РФ это решение предлагает независимость от зарубежных облачных сервисов и возможность полностью контролировать безопасность своих данных. Локальный запуск песочницы гарантирует, что код и результаты его выполнения остаются на вашем устройстве, не передаваясь третьим лицам.
В долгосрочной перспективе этот подход может стать стандартом для безопасной разработки с AI. По мере того как агенты будут брать на себя больше задач, включая выполнение системных команд и взаимодействие с внешними сервисами, изоляция исполнения станет критически важной. Паттерн внешних песочниц предлагает элегантное решение этой проблемы, сочетая простоту использования с высоким уровнем безопасности.
Экспериментируя с external-sandbox-v86, external-sandbox-container или external-sandbox-quicksand, вы можете найти оптимальное решение для своих задач. Независимо от выбора, вы получаете мощный инструмент для безопасной работы с AI-агентами, который позволяет сосредоточиться на творчестве, не беспокоясь о безопасности.
Источник: Simon Willison ↗
