Суть метода: перенос «мыслей» модели
Авторы (Jinkun Chen, Xuemin Yu, Sijia Han, Vlado Keselj) исследовали феномен Cross-Prompt Reuse (кросс-промпт повторное использование). Идея заключается в том, что если мы знаем, как модель реагирует на один вопрос об объекте (источник), мы можем математически вычислить изменение её скрытых состояний и «внедрить» это изменение в ответ на другой вопрос об этом же объекте, но с другим фактом (цель).
В отличие от простого копирования текста, метод работает на уровне внутренних представлений (hidden states). Изменение, полученное из исходного вопроса, инжектируется в целевой запрос на 50% глубины сети, после чего оставшиеся слои модели дообучают результат самостоятельно.
Ключевые метрики и бенчмарки
Эксперименты проводились на моделях Qwen (0.5-1B), Llama и Gemma-2-2B. Основной метрикой стала доля устраненной ошибки (error removal rate) в случаях, когда ответ модели не должен был меняться при смене отношения, но менялся из-за «галлюцинаций» или смещения контекста.
| Модель / Конфигурация | Метод | Результат (устранение ошибки) | Примечание |
|---|---|---|---|
| Qwen / Llama (0.5-1B) | Hidden Reuse (other-relation) | 45% - 49% | Устранение ошибки «no-change» |
| Gemma-2-2B (plain text) | Hidden Reuse (без BOS токена) | 22% | Пройден 1 из 3 сравнений |
| Gemma-2-2B (восстановленный BOS) | Hidden Reuse (protocol restore) | 58% - 68% | Пройден каждый сравнительный тест |
Почему это важно для индустрии
Результат в 68% устраненной ошибки на моделях с восстановленным токеном начала последовательности (BOS) показывает, что значительная часть «знаний» LLM не является жестко закодированной в весах, а формируется динамически в процессе промптинга. Это открывает путь к:
- Кэшированию инференса: если ответ на вопрос А уже вычислен, можно быстро скорректировать ответ на вопрос Б, не прогоняя всю модель с нуля.
- Борьбе с галлюцинациями: метод позволяет «выравнивать» внутренние состояния модели, заставляя её следовать логике, уже доказанной на другом примере.
Ограничения и нюансы
Метод не универсален. На больших чекпоинтах и в формате чата (chat format) наблюдаются сбои, зависящие от когорты данных. Прямое использование изменений от других отношений (other-relation sources) на маленьких моделях в plain-формате воспроизводит только общую часть сдвига, не снижая специфичную для отношения ошибку. Однако использование источников того же отношения (target-relation sources) дает преимущество в 0.2-0.9 натов (nats) вне формата чата, что подтверждает зависимость от получаемого вопроса.
Источник: arXiv cs.CL ↗