Проблема «черного ящика» абстракций
Визуальные трансформеры (ViT), такие как CLIP и DINO, демонстрируют высокую точность в классификации изображений, но их способность понимать абстрактные концепции остается загадкой. Как модель, обученная на пикселях, «понимает» эмоцию или метафору, если в данных нет прямых подписей вроде «это гнев»? Авторы исследования, опубликованного на EMNLP 2026, предлагают гипотезу метонимического заземления: модель использует конкретные, интерпретируемые объекты-якоря (например, огонь для «гнева» или «страха»).
Методология: Transcoders и Circuit Tracing
Для проверки гипотезы команда применила метод Transcoders к энкодерам CLIP и DINO. Это позволило извлечь промежуточные признаки (features) и связать их с семантическими метками более конкретных понятий. Затем исследователи проследили вклад этих признаков в «цепях» (circuits) распознавания абстракций. Эксперименты проводились на тщательно курируемом наборе данных иконок, где абстрактные понятия были визуализированы через конкретные символы.
Ключевые находки: Иерархия и маршруты
Анализ выявил структурированные метонимические схемы. В ранних слоях сети доминируют перцептивные примитивы (края, текстуры), затем следуют якоря, похожие на объекты, и только в глубоких слоях формируется абстрактная цель. Особый интерес представляет маршрут для изображений с текстом: они используют отдельный путь от перцепции к текстовому пониманию, минуя стандартные объектные якоря.
Причинно-следственный анализ (Causal Interventions)
Чтобы доказать, что найденные связи не случайны, авторы провели каузальные интервенции. Искусственное изменение активности нейронных групп, связанных с конкретными якорями, приводило к предсказуемым изменениям в классификации абстрактных понятий. Это подтверждает функциональную роль метонимических промежуточных звеньев.
| Аспект исследования | Детали и результаты |
|---|---|
| Модели | CLIP, DINO (Vision Transformers) |
| Метод анализа | Transcoders, Circuit Tracing, Causal Interventions |
| Вектор абстракции | От перцептивных примитивов (ранние слои) к объектным якорям, затем к абстракции (глубокие слои) |
| Особый случай | Изображения с текстом используют отдельный перцептивно-текстовый маршрут |
| Валидация | Каузальные интервенции подтвердили функциональную необходимость якорей |
Значение для индустрии
Это исследование закрывает важный пробел в объяснимом ИИ (XAI). Понимание того, что ViT используют метонимию для связи пикселей с смыслами, позволяет создавать более надежные системы компьютерного зрения, способные к контекстному пониманию. Это особенно критично для приложений в медицине, автономном вождении и анализе социальных медиа, где абстрактный контекст часто важнее прямого объекта.
Источник: arXiv cs.AI ↗