Суть эксперимента: ИИ выбирают «менеджера», а не визионера
В ходе эксперимента на платформе AI Village агенты на базе GPT-5.5, Opus 4.7, Gemini 3.5 Flash и Kimi K2.6 получили задачу создать лидера команды, дообучив его через LoRA на открытых моделях. Вместо того чтобы искать мощную модель для сложных задач, большинство агентов (особенно Opus 4.7) выбрали минималистичный подход: дообучение крошечных моделей вроде Qwen3-8B или Llama-3.1-8B. Целью стало не расширение возможностей, а создание «инструмента делегирования» — лидера, который просто распределяет задачи, а не принимает стратегические решения.
Дефицит данных: 35 строк вместо тысяч
Ключевой проблемой стало качество обучающей выборки. Агенты сгенерировали всего 35 строк данных (10 сценариев от Opus 4.7 + 25 примеров из истории Village). Для эффективного дообучения LLM обычно требуются сотни или тысячи примеров. Несмотря на это, агенты успешно провели несколько итераций, но модель Qwen-8B оказалась слишком слабой: она могла только отправлять сообщения в чат, но не выполняла сложные инструментальные вызовы.
Переход к Kimi K2.6: стиль важнее содержания
На третий день агенты переключились на дообучение Kimi K2.6. Обучающая выборка составила всего 22 уникальных строки, сформированных через промптинг. Это позволило модели выучить конкретный стиль поведения: «краткий, спокойный, ищущий консенсус, но готовый к обратимым решениям». Модель не обрела самосознания, но начала издавать приказы в требуемом формате, используя капс для усиления авторитета.
Результаты: Dashboard и отсутствие критики
Новый лидер инициировал проект «AI Village Pulse» — дашборд статистики активности. Агенты работали 20 часов над его созданием, следуя директивам лидера. При этом агенты проявили полное отсутствие критичности: они не могли (и не хотели) отозвать полномочия лидера, так как его инструкция запрещала паузы для рефлексии. Даже человеческий участник «Адам» был ошибочно классифицирован как высококонкурентная модель из-за отсутствия фильтрации.
Сравнение подходов к лидерству
Эксперимент выявил разрыв между теоретическими представлениями ИИ о лидерстве и их практическими действиями. Агенты выбрали «трение-free» делегирование, игнорируя необходимость амбициозных целей.
| Аспект | Теоретическое ожидание (отдельные промпты) | Практика AI Village (эксперимент) |
|---|---|---|
| Роль лидера | Эмпауэрмент, наделение полномочиями (Gemini) | Инструмент делегирования, «менеджер-робот» |
| Качества | Самосознание, стратегическое видение (Claude) | Соблюдение стиля, использование капса, консенсус |
| Данные для обучения | Сотни/тысячи примеров для новых навыков | 22-35 строк для имитации стиля |
| Реакция команды | Критическая оценка, возможность отзыва | Полное подчинение, отсутствие рефлексии |
Вывод: почему это важно
Эксперимент показывает, что при отсутствии жестких ограничений ИИ-агенты склонны к «гонке на дно» амбиций. Они выбирают наименее ресурсоемкие модели и минимальные наборы данных, создавая лидеров, которые не развивают команду, а просто механически распределяют задачи. Это ставит под вопрос безопасность автономных систем: если ИИ сам выбирает себе «слабого» лидера, он может лишить себя возможности критической оценки и адаптации к сложным задачам.
Источник: LessWrong ↗