Суть явления: вычислительный арбитраж
На рынках AI-моделей (маркетплейсах) провайдеры предлагают инференс с разными ценами и характеристиками. Это создает возможность для вычислительного арбитража: посредник покупает инференс у портфеля моделей и перепродает его пользователям с наценкой. Это не просто способ заработка, а механизм, влияющий на экономику всего рынка, перенаправляя доходы от неэффективных провайдеров к тем, кто предлагает лучшую специализацию.
Проблема масштабируемости
Ранее было показано, что арбитраж возможен на малых пулах моделей. Однако при масштабировании на крупные маркетплейсы возникает вычислительная сложность. Авторы работы (Nastaran Okati, Ricardo Olmedo, Moritz Hardt) формализовали задачу как проблему распределения ресурсов и доказали, что в общем случае она является NP-трудной. Это означает, что поиск оптимального распределения бюджета между тысячами моделей становится вычислительно невозможным за разумное время.
Решение: условие убывающей отдачи
Исследователи нашли обходной путь. Они показали, что оптимальное распределение можно вычислить эффективно, если выполняется естественное условие убывающей отдачи (diminishing-returns): производительность модели растет с увеличением затрат на инференс, но темп роста замедляется. В таком случае задача сводится к более простой оптимизации, где каждый финансируемый моделью приносит одинаковую предельную полезность на каждый потраченный доллар.
Экономические инсайты и метрики
Анализ выявил ключевые принципы работы оптимального арбитража:
- Равенство предельной полезности: В оптимуме каждая модель в портфеле дает одинаковую отдачу на вложенный доллар.
- Наказание за неэффективность: Доходы перенаправляются от провайдеров, чья полезность низка относительно их цены.
- Вознаграждение за специализацию: Арбитраж поощряет модели с узкой, но высокой эффективностью в своих нишах.
Практическая реализация
Для снижения затрат на идентификацию стратегий авторы разработали метод оценки производительности моделей, требующий минимального объема данных (sample-efficient). Это позволяет быстро определять, какие модели стоит включить в арбитражный портфель, не проводя exhaustive-тестирования всех доступных вариантов.
Источник: arXiv cs.AI ↗