GI
agent-governance
Управление безопасностью и доверием ИИ-агентов: контроль доступа к инструментам, классификация намерений, аудит и скоринг надежности. Применяется для PydanticAI, CrewAI, OpenAI Agents, LangChain, AutoGen.
Что делает навык
Набор паттернов для обеспечения безопасности, доверия и контроля политик в системах ИИ-агентов, включая управление доступом к инструментам, классификацию намерений и аудит действий. Решает задачи контроля границ работы агентов, предотвращения угроз и поддержания подотчетности через журналы аудита.
Когда применять
- Агенты с доступом к внешним инструментам (API, базы данных, shell-команды)
- Многоагентные системы, где агенты делегируют задачи другим агентам
- Производственные развертывания с требованиями соответствия и аудита
- Операции с высокими рисками: финансовые транзакции, доступ к данным, управление инфраструктурой
Как работает
- Определите GovernancePolicy как декларативный объект, задавая списки разрешенных/заблокированных инструментов, паттерны фильтрации контента и лимиты вызовов
- Примените композицию политик (Policy Composition) для объединения правил организации, команды и конкретного агента с семантикой «наиболее строгий выигрывает»
- Настройте загрузку политик из YAML-конфигурации для хранения правил как данных, а не кода
- Используйте Semantic Intent Classification для обнаружения опасных намерений в промптах до выполнения инструментов
- Оберните функции инструментов декоратором @govern для проверки политик, лимитов и контента аргументов перед выполнением
- Ведите Append-only Audit Trail для записи всех действий агентов с временными метками и деталями для отладки и соответствия
Примеры запросов агенту
«Настрой политику для агента поиска, разрешив только инструменты search и summarize, заблокировав shell_exec и добавив проверку на наличие паролей в запросах»
«Проверь безопасность входящего промпта на предмет попыток эксфильтрации данных или повышения привилегий с использованием классификатора намерений»
«Задокументируй все вызовы инструмента query_db в журнал аудита, указав время выполнения и статус разрешения политики»
Что понадобится
- Python (используются dataclasses, enum, re, functools, time, math, json, yaml)
Описание составлено по SKILL.md навыка, сверено 06.10.2026.
Как подключить
1Скачать навык
# возьмите папку навыка «agent-governance» из репозитория:
# https://github.com/github/awesome-copilot
2Положить папку с
SKILL.md к навыкам ассистента# положите папку навыка туда, где ассистент ищет skills:
cp -r agent-governance/ ~/.claude/skills/agent-governance/
Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.