Проблема: разрыв между гибкостью LLM и интерпретируемостью
Создание точных когнитивных моделей на основе поведенческих данных — одна из ключевых задач когнитивной науки. Традиционные методы, опирающиеся на экспертные знания, обеспечивают интерпретируемость, но страдают от негибкости. С другой стороны, современные подходы с использованием больших языковых моделей (LLM) масштабируемы, но часто игнорируют экспертный контроль и применяются лишь к простым задачам.
Решение: гипотезо-направляемое открытие алгоритмов
Команда исследователей во главе с Хуивен Алекс Янгом (Huiwen Alex Yang) предложила гибридную систему, которая рассматривает открытие когнитивных алгоритмов как задачу рефакторинга программ. В этой архитектуре:
- Человек-эксперт задает базовую когнитивную модель в виде вероятностной программы.
- Система LLM-агентов анализирует расхождения между поведением модели и реальными данными.
- Агенты предлагают модификации кода в рамках заданных ограничений, сохраняя структурную целостность.
- Изменения передаются в модуль вероятностного вывода для пересчета латентных переменных и правдоподобия данных.
Результаты: улучшение качества моделей
Эксперименты проводились на парадигме решения задач, демонстрирующей разнообразие когнитивных алгоритмов. Обновленные модели стабильно превосходили исходные (ancestral models) по качеству подгонки (model fit). Система выявила небольшой набор повторяющихся инноваций в коде, которые точно захватывают вариативность человеческого поведения.
Значение для индустрии
Подход объединяет лучшее из двух миров: экспертную экспертизу в построении гипотез и вычислительную мощь LLM для их автоматической верификации и оптимизации. Это открывает путь к созданию более точных и объяснимых цифровых двойников человеческого мышления.
Источник: arXiv cs.AI ↗