Архитектура агентства: два компонента
Автор статьи, Яхым Фибир, выделяет две ключевые архитектурные черты, сходящиеся у биологического интеллекта и искусственных систем: Предиктор (Predictor) и Пикер (Picker). Это не просто метафора, а техническая спецификация работы агентов в сложных средах.
- Предиктор (в LLM — нейросеть): анализирует контекст и выдает распределение вероятностей для тысяч возможных следующих токенов. Он не выбирает, а оценивает.
- Пикер (в LLM — семплер токенов): берет случайное число и на основе распределения от Предиктора выбирает один конкретный токен для реализации.
Этот механизм позволяет системе избегать детерминированных ловушек и генерировать разнообразный, «человечный» вывод.
Роль температуры и случайности
Ключевым элементом, связывающим Предиктора и Пикера, является параметр temperature. Он не влияет на генерацию случайного числа, а перестраивает распределение вероятностей перед выбором:
| Параметр | Влияние на распределение | Результат |
|---|---|---|
| Temperature = 0 | Схлопывает всю массу вероятности на один токен с максимальным весом | Greedy sampling. Текст становится механическим, клишированным, склонным к зацикливанию. Потеря креативности. |
| Temperature = 1 | Сохраняет исходное распределение вероятностей нейросети | Баланс. Естественный поток, соответствующий статистике человеческой речи. |
| Temperature > 1 | Выравнивает распределение (делает его более плоским) | Хаос. Высокая вероятность появления маловероятных, бессмысленных или галлюцинирующих токенов. |
Почему детерминизм убивает интеллект
В цифровом мире детерминизм — это норма (чипы с минимальным числом ошибок), но в интеллектуальных системах он вреден. Исследование подчеркивает, что человеческий текст статистически не удерживается в зоне самых вероятных слов. Люди намеренно выбирают «достаточно вероятные», но не самые вероятные варианты, чтобы избежать предсказуемости.
Если убрать Пикер (случайность) и оставить только Предиктора, система теряет способность к адаптации и креативности. Случайность в LLM — это не баг, а load-bearing feature (несущая конструкция), необходимая для интеллектуального взаимодействия.
Значение для AI-разработки
Вывод статьи имеет фундаментальное значение для проектирования AI-агентов. Интеллект возникает не из чистой оптимизации вероятности, а из взаимодействия между оценкой вариантов (Предиктор) и их реализацией через стохастический выбор (Пикер). Понимание этой конвергенции архитектуры помогает лучше моделировать причинность и агентность как в биологических, так и в искусственных системах.
Источник: LessWrong ↗