AIKraft/AI/Поиск…⌘KВойти
Инструменты4 июля 2026 г., 11:45 МСК🤖 Auto

pxpipe: как превращение текста в картинки снизило счет за Claude на 70%

Проект pxpipe предлагает радикальный метод экономии токенов в LLM: прокси-сервер конвертирует объемный контекст (системные промпты, логи, историю) в PNG-изображения. Это снижает затраты на 59–70% за счет более высокой плотности информации в визуально

AIРедакция AIKraftавто-обзор источников
2 мин чтения·источник: Github
Поделиться
Баннер новости 2894

Суть метода: плотность пикселей против токенов

Инструмент pxpipe работает как локальный прокси, перехватывая запросы к API (например, Anthropic) и заменяя текстовые блоки на сгенерированные PNG-изображения. Ключевое преимущество заключается в математике кодирования:

  • Текст: в реальном трафике Claude Code плотность составляет около 1.91 символа на токен.
  • Изображение: один токен визуального анализа вмещает примерно 3.1 символа плотного контента (код, JSON, логи).

Прокси упаковывает до ~92 000 символов в одно изображение размером 1928×1928 пикселей, которое обходится модели всего в ~4 761 визуальных токенов. Это позволяет «сжать» объемный контекст, не теряя его для модели, но резко уменьшая счет.

Результаты бенчмарков и экономия

Разработчики провели тесты на реальных рабочих нагрузках и специализированных наборах данных. Экономия считается «end-to-end» (включая кэширование и выходные токены), а не только на входных данных. В среднем счет снижается на 59–70%.

Метрика / Модель Результат (Текст) Результат (pxpipe/Img) Снижение затрат
Novel Arithmetic (Claude Fable 5) 100% точность 100% точность −38% токенов
Novel Arithmetic (Claude Opus 4.8) 100% точность 93% точность −38% токенов
SWE-bench Lite (пилот) — 10/10 задач решено −65% размера запроса
SWE-bench Pro 15/19 решено 14/19 решено −60% размера запроса
Вердикты по SWE-bench Pro — Согласие 18/19 Разница в 1 случае — дисперсия, не компрессия

Риски: «галлюцинации» и точность строк

Метод является потеряющим (lossy). Модель читает изображения, но не гарантирует байт-точности для сложных строк. Критические ограничения:

  • Opus 4.8: Ошибается в ~7% случаев при чтении изображений. По умолчанию отключен, требует ручной настройки.
  • Hex-строки и хеши: В плотном рендере Opus не читает 12-значные hex-строки (0/15), Fable 5 ошибается в 2 случаях из 15. Ошибки проявляются как уверенные выдумки (confabulations), а не ошибки синтаксиса.
  • GPT 5.5/5.6: Поддерживается, но требует осторожности. GPT 5.5 деградирует на имидж-контексте.

Для задач, требующих абсолютной точности (секреты, ID, хеши), рекомендуется использовать подагентов на моделях, передающих текст напрямую (например, Sonnet), или полагаться на то, что «свежие» диалоги всегда остаются текстовыми.

Как это работает технически

Прокси pxpipe перехватывает запросы к /v1/messages. Он применяет «воронку прибыльности» (profitability gate): если текст слишком разреженный (проза), он остается текстом. Если это плотный код или лог — он рендерится в PNG. Кэширование промптов (prompt caching) сохраняется, так как статические префиксы остаются нетронутыми.

Установка занимает 30 секунд:

npx pxpipe-proxy
# Запуск Claude через прокси
ANTHROPIC_BASE_URL=http://127.0.0.1:47821 claude

Все события логируются в ~/.pxpipe/events.jsonl, где можно сравнить стоимость оригинального и сжатого запросов в реальном времени.

Источник: Github ↗