Проблема катастрофического забывания
Продолжающееся обучение (Continual Learning, CL) позволяет адаптировать предварительно обученные языковые модели к новым задачам, но часто приводит к потере ранее приобретенных навыков. Традиционные методы сохранения знаний опираются на ограниченные наборы данных, которые не покрывают весь спектр способностей модели. Авторы исследования — Донгкю Чо, Руми Чунара и Али Бехруз — предлагают решение: использовать саму модель для генерации «повторных выборок» (replay data) без доступа к исходным обучающим данным.
Методология: Task Banks и Qwen
Исследователи создали концепцию «Банков задач» (Task Banks), где описания задач и примеры структурированы для выбора и комбинирования. Замороженная модель генерирует данные на основе этих банков, а затем происходит непрерывное инструктивное тонкое настраивание (continual instruction tuning) моделей Qwen различных размеров. Ключевой инновацией является использование самой модели для выбора целей сохранения, что позволяет защитить более широкие способности, а не только те, что явно указаны в банке задач.
Ключевые результаты
Эксперименты выявили три основных вывода. Во-первых, новая задача и скорость обучения определяют, какие именно предыдущие способности деградируют. Во-вторых, сгенерированные повторные выборки снижают забывание на задачах, отсутствующих в банке. В-третьих, модель может эффективно выбирать, какие задачи воспроизводить, если выбор основан на новой задаче, что улучшает удержание знаний на тестовых выборках.
| Параметр/Наблюдение | Детали и результаты |
|---|---|
| Модели | Qwen различных размеров (включая 4B) |
| Механизм защиты | Генерация replay-данных замороженной моделью |
| Эффект на удержание | Улучшение среднего удержания правильных ответов по сравнению с использованием только одного банка задач |
| Выбор задач | Выбор, информированный новой задачей, превосходит случайный выбор для моделей 4B |
| Компромисс | Замена примеров новой задачи на replay-данные улучшает сохранение, но снижает прирост новых навыков |
Значение для индустрии
Результаты показывают, что модели способны поддерживать собственное «самохранение» (self-preservation), генерируя данные и выбирая задачи для воспроизведения. Это открывает путь к созданию более устойчивых к забыванию систем, способных непрерывно обучаться без необходимости хранения огромных объемов исходных данных. Однако важно отметить, что при фиксированном бюджете примеров улучшение сохранения происходит за счет меньшего прироста новых навыков, что требует баланса в настройке гиперпараметров.
Источник: arXiv cs.CL ↗