AIKraft/Skills/agent-governance

agent-governance

Управление безопасностью и доверием ИИ-агентов: контроль доступа к инструментам, классификация намерений, аудит и скоринг надежности. Применяется для PydanticAI, CrewAI, OpenAI Agents, LangChain, AutoGen.

GIGitHub official Разработка ★ 39.7k

Что делает навык

Набор паттернов для обеспечения безопасности, доверия и контроля политик в системах ИИ-агентов, включая управление доступом к инструментам, классификацию намерений и аудит действий. Решает задачи контроля границ работы агентов, предотвращения угроз и поддержания подотчетности через журналы аудита.

Когда применять

  • Агенты с доступом к внешним инструментам (API, базы данных, shell-команды)
  • Многоагентные системы, где агенты делегируют задачи другим агентам
  • Производственные развертывания с требованиями соответствия и аудита
  • Операции с высокими рисками: финансовые транзакции, доступ к данным, управление инфраструктурой

Как работает

  1. Определите GovernancePolicy как декларативный объект, задавая списки разрешенных/заблокированных инструментов, паттерны фильтрации контента и лимиты вызовов
  2. Примените композицию политик (Policy Composition) для объединения правил организации, команды и конкретного агента с семантикой «наиболее строгий выигрывает»
  3. Настройте загрузку политик из YAML-конфигурации для хранения правил как данных, а не кода
  4. Используйте Semantic Intent Classification для обнаружения опасных намерений в промптах до выполнения инструментов
  5. Оберните функции инструментов декоратором @govern для проверки политик, лимитов и контента аргументов перед выполнением
  6. Ведите Append-only Audit Trail для записи всех действий агентов с временными метками и деталями для отладки и соответствия

Примеры запросов агенту

«Настрой политику для агента поиска, разрешив только инструменты search и summarize, заблокировав shell_exec и добавив проверку на наличие паролей в запросах»
«Проверь безопасность входящего промпта на предмет попыток эксфильтрации данных или повышения привилегий с использованием классификатора намерений»
«Задокументируй все вызовы инструмента query_db в журнал аудита, указав время выполнения и статус разрешения политики»

Что понадобится

  • Python (используются dataclasses, enum, re, functools, time, math, json, yaml)

Описание составлено по SKILL.md навыка, сверено 06.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «agent-governance» из репозитория: # https://github.com/github/awesome-copilot
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r agent-governance/ ~/.claude/skills/agent-governance/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.