В мире разработки искусственного интеллекта, где каждый день появляются новые модели и фреймворки, безопасность часто отходит на второй план. Разработчики привыкли быстро прототипировать, запускать локальные инференсы и экспериментировать с API, не задумываясь о том, куда именно уходят их данные. Однако, как показывает недавнее событие в экосистеме Python-инструментов для работы с большими языковыми моделями (LLM), даже небольшие упущения в логике обработки конфигураций могут привести к серьезным утечкам конфиденциальной информации. 11 ноября 2026 года Simon Willison, известный разработчик и автор популярного блога, анонсировал выпуск версии 0.37.2 своего инструмента llm — популярной утилиты командной строки для взаимодействия с LLM. Это обновление не просто добавляет новые функции, оно закрывает две критические уязвимости, обнаруженные исследователем безопасности Дэниелом де Араужо.
Почему это важно для каждого, кто использует LLM в своей работе? Потому что механизм, отвечающий за подключение к сторонним API, стал точкой входа для потенциальной утечки ключей доступа. Если вы используете llm для работы с OpenAI-совместимыми эндпоинтами других провайдеров, игнорирование этого обновления может стоить вам денег или доступа к вашим сервисам. В этой статье мы подробно разберем, как работает механизм extra-openai-models.yaml, в чем заключалась суть уязвимости и почему разработчикам необходимо обновиться прямо сейчас.
01Контекст: Инструмент llm и его роль в экосистеме
Инструмент llm от Саймона Уиллисона стал де-факто стандартом для разработчиков, предпочитающих работать с языковыми моделями через терминал. Он позволяет легко подключать различные модели, от локальных Qwen и Llama до облачных решений от OpenAI, Anthropic и других провайдеров. Гибкость инструмента заключается в его способности абстрагироваться от конкретных API, предоставляя единый интерфейс для отправки запросов и получения ответов.
Однако эта гибкость порождает сложность. Чтобы работать с провайдерами, которые не являются официальными клиентами OpenAI, но используют совместимый формат API, llm использует механизм конфигурации, известный как extra-openai-models.yaml. Этот файл позволяет пользователям добавлять собственные эндпоинты, указывая URL-адреса, имена моделей и, что самое важное, ключи API. Именно здесь кроется потенциальная опасность, если логика обработки этих ключей не была должным образом проверена.

До выхода версии 0.37.2 управление этими дополнительными эндпоинтами было несколько хаотичным. Пользователи могли вручную редактировать YAML-файлы, что часто приводило к ошибкам синтаксиса или путанице в том, какой ключ к какому провайдеру привязан. Новая версия вводит команду llm openai endpoint add, которая централизует этот процесс, делая его более безопасным и предсказуемым. Но прежде чем мы перейдем к новому функционалу, важно понять, какие именно дыры были закрыты.
02Суть уязвимости: Как ключи могли утечь
Дэниел де Араужо, исследователь безопасности, выявил два конкретных сценария, при которых конфигурационный файл extra-openai-models.yaml мог привести к непреднамеренной отправке вашего секретного ключа OpenAI на серверы сторонних провайдеров. Это не была классическая SQL-инъекция или XSS. Это была логическая ошибка в том, как инструмент определял, какой ключ использовать для конкретного запроса.
Первая уязвимость касалась состояния хранения ключей. Механизм llm предполагает, что ключи API хранятся в защищенном хранилище (например, в системном брелке ключей macOS или в зашифрованном файле на Linux), а не в открытом виде в конфигурационных файлах. Однако, если ключ, имя которого указано в параметре api_key_name для стороннего эндпоинта, никогда не был сохранен в этом защищенном хранилище, инструмент мог попытаться использовать значение по умолчанию или, что хуже, подставить значение из другого контекста. В некоторых случаях это могло привести к тому, что запрос к стороннему API отправлялся с ключом, который не предназначался для этого провайдера, или вообще с пустым/некорректным ключом, который мог быть перехвачен или логирован.

Вторая уязвимость была еще более тонкой и касалась формата ответов. В API OpenAI существует два основных формата ответов: классический chat_completions и новый, более структурированный формат responses. Если пользователь запускал модель с параметром responses: true, но при этом явно указывал флаг -o chat_completions 1 (принудительно переключаясь на старый формат), инструмент мог неправильно интерпретировать заголовки запроса. В результате, вместо отправки запроса на ожидаемый эндпоинт с правильными заголовками аутентификации, llm мог отправить запрос на базовый URL провайдера, используя ключ, который был настроен для другого сервиса. Это создавало риск того, что ваш ключ OpenAI, который обычно защищен строгими ограничениями (IP-адреса, квоты), оказывался в логах или на серверах стороннего провайдера, с которым у вас нет прямого договора.
03Новый механизм: llm openai endpoint add
Чтобы устранить эти риски и упростить жизнь разработчикам, команда llm представила новую команду llm openai endpoint add. Эта команда заменяет ручной редактирование YAML-файлов и внедряет строгую валидацию данных. Теперь, когда вы добавляете новый эндпоинт, инструмент явно спрашивает у вас, какой ключ использовать, и проверяет его наличие в защищенном хранилище.
Источник: Simon Willison ↗
