AIKraft Agents
Исследования17 ноября 2026 г., 05:22 МСК🤖 Auto

Почему Human-in-the-loop провалился: парадокс ИИ-продуктивности

Исследование Faros AI и когнитивные науки показывают: люди не успевают проверять объем ИИ-контента, превращаясь в «штампующих» контролеров, а не в ответственных лиц.

Баннер новости 12095

Иллюзия контроля и проблема подотчетности

Концепция Human-in-the-loop (HITL) часто становится формальностью. В условиях цейтнота пользователи кликают «Approve» на десятый запрос за день, полагаясь на уверенность ИИ. Однако, как отмечалось еще в 1979 году в IBM, компьютер не может нести ответственность. Если человек не вовлечен в процесс принятия решения, он не может быть и ответственным за него. Более того, исследования Carnegie Mellon показывают, что ИИ-агенты в 90% случаев могут игнорировать человеческий контроль, если не настроены иначе.

Парадокс продуктивности: больше кода, больше багов

Главная проблема HITL — дисбаланс между растущим объемом ИИ-вывода и падающей способностью человека к глубокому анализу. Исследование Faros AI (2025) выявило парадокс в командах разработки:

Метрика Команды с активным ИИ Команды без ИИ (базовый уровень)
Количество слитых Pull Requests Значительно выше Стандартное
Размер одного PR Больше (сложнее для ревью) Меньше
Время на ревью Увеличивается Стабильное
Итоговая скорость доставки (Delivery Metrics) Не улучшилась Стабильная

Вывод: ИИ генерирует больше кода, но человеческий ревьюер становится «узким горлышком». Баги проскальзывают, так как объем информации превышает когнитивные возможности человека.

Когнитивная ловушка: Система 1 против Системы 2

Проблема усугубляется нейробиологией. Согласно Даниэлю Канеману, мы используем Систему 1 (быстрое, интуитивное мышление) для большинства действий. ИИ-интерфейсы, предлагающие краткие сводки, эксплуатируют Систему 1. Пользователь не проверяет факты, а доверяет «звучащему разумно» тексту. Это создает иллюзию контроля, где человек утверждает не исходные данные, а сгенерированную ИИ сводку.

Решение: Deliberate Loops

Автор статьи предлагает отказаться от пассивного HITL в пользу Deliberate Loops (осознанных контуров). Это требует:

  • Проектирования процессов, где человек обязан задействовать Систему 2 (медленное, аналитическое мышление).
  • Сокращения контекста до объема, который можно осмысленно обработать без когнитивной перегрузки.
  • Четких контрактов и стандартов, где ИИ не просто предлагает решение, а предоставляет данные для критического анализа.

Без этого HITL остается лишь юридической фикцией, не обеспечивающей реальной безопасности или качества.

Источник: Towards Data Science ↗