Эффективность как главный драйвер
Главной целью создания собственного ASIC стала не просто производительность, а энергоэффективность. По словам Ричарда Хо, OpenAI сталкивается с ограничением по мощности в дата-центрах. Ключевая задача — максимизировать выдачу интеллекта пользователю при жестких лимитах энергии. Фокус сделан на инференсе (выводе), так как именно от задержек здесь зависит пользовательский опыт ChatGPT и Codex.
Секрет скорости: AI-assisted design
Радикально сокращенное время разработки — 9 месяцев от начала до tape-out (передачи дизайна в производство) — стало возможным благодаря использованию ИИ в процессе проектирования. Традиционный цикл занимает 18–24 месяца. OpenAI установила новый базовый уровень: команда создала архитектуру с нуля, не опираясь на legacy-решения, но используя ИИ-инструменты для ускорения рутинных задач и оптимизации.
Генеральный, а не специализированный
Ричард Хо опроверг слухи о том, что Jalapeño оптимизирован только под модели OpenAI. Для демонстрации универсальности использовался бенчмарк InferenceX от SemiAnalysis, основанный на открытых моделях разных архитектур. Результаты показали, что чип эффективно работает с любыми трансформерными LLM. Программирование новых моделей заняло около двух месяцев, что подтверждает гибкость платформы.
Почему свой чип, а не покупка?
Ключевое преимущество внутреннего дизайна — full-stack co-design (со-проектирование всего стека). Внешние поставщики не могут предоставить такой уровень интеграции, так как это требует глубокого знания проприетарных IP-моделей OpenAI. Внутренняя команда могла принимать взвешенные решения: что оптимизировать в ПО, что в модели, а что в «железе», избегая утечек интеллектуальной собственности.
| Параметр | Традиционный подход | OpenAI Jalapeño (AI-assisted) |
|---|---|---|
| Время разработки | 18–24 месяца | 9 месяцев |
| Фокус оптимизации | Универсальные решения | Глубокая интеграция с модельным стеком |
| Поддержка моделей | Зависит от драйверов | Универсальная для LLM (доказано InferenceX) |
| Приоритет | Рынок в целом | Внутренние нужды OpenAI (пока) |
Будущее и доступность
На данный момент чипы Jalapeño будут использоваться исключительно для внутренних нужд OpenAI, так как спрос на вычислительные мощности внутри компании растет экспоненциально. Однако архитектура не закрыта, и в будущем компания не исключает возможность предоставления этих решений внешним клиентам, если спрос превысит внутренние потребности.
Источник: Tom's Hardware ↗