Проблема: Агенты, которые переписывают себя, невозможно проверить
В кредитных скоринговых системах критически важна прозрачность и аудируемость каждого изменения. Если LLM-агент способен переписывать собственные веса (parametric shifts) для самосовершенствования, он разрушает артефакт контроля: невозможно отследить, какое именно изменение привело к результату, и проверить его на тестовой выборке. Это делает невозможным соответствие строгим регуляторным требованиям.
Решение: «Поводок» (Harness) как единственная изменяемая поверхность
Автор предлагает архитектуру, где веса модели остаются фиксированными. Самоэволюция ограничивается так называемым «поводком» (harness) — набором инструкций, логикой вызова инструментов (tool-call logic) и композицией примитивов. Каждое изменение должно быть представлено как diff с приложенной причиной и тестом. Это создает двойной цикл (dual-loop engine) с «входным шлюзом» (admission gate), который записывает хэш-цепочку перед развертыванием.
Результаты симуляции: 144 из 7,449 изменений прошли проверку
Исследование проводилось в симуляции с использованием seeded-search proposer (вместо языковых моделей для предложения изменений). Были протестированы три семейства интерпретаций надзора с тремя уровнями строгости (по 10 семян каждое). Ключевые метрики эффективности шлюза:
| Метрика | Значение / Результат |
|---|---|
| Всего кандидатов на изменение | 7,449 |
| Принято шлюзом | 144 |
| Ухудшение ошибки на тестовой выборке | 0 случаев (ни одно принятое изменение не ухудшило метрики) |
| Восстановление уровня ложноположительных срабатываний | До уровня оракула без повышения пропущенных флагов (в low/mid severity) |
| Контрольная группа (без шлюза) | Принято 309 вредных изменений, пропущенные флаги >10% в 49 из 90 запусков |
Регуляторный контекст: EU AI Act и US Model-Risk Guidance
Механизм напрямую соотносится с положениями Закона ЕС об ИИ (EU AI Act) в части высокорисковых систем кредитного скоринга. Особое внимание уделено тому, что в апреле 2026 года руководство по управлению рисками моделей в США (US model-risk guidance) исключило агентный ИИ (agentic AI) из своего текущего охвата, что создает правовую неопределенность. Предложенный метод позволяет обойти эту проблему, обеспечивая аудируемость изменений без изменения самой модели.
Ограничения и выводы
Метод успешно исправлял параметрические и локальные структурные сдвиги. Однако при максимальной структурной строгости шлюз блокировал корректную замену в половине случаев (50% семян), так как фиксированная толерантность не позволяла применить необходимое изменение. Для обхода этого барьера требуется кодировать переинтерпретацию как правило, которое перемечает историю данных.
Источник: arXiv cs.AI ↗