Mirendil Fern: Революция длинного контекста или просто маркетинг?

В мире искусственного интеллекта, где гонка вооружений между крупными языковыми моделями (LLM) кажется бесконечной, каждое новое объявление вызывает бурю эмоций. Но не каждый прорыв является таковым. Недавно лаборатория Mirendil представила свою первую модель — Fern, позиционируя её как инструмент для разработчиков, способный обрабатывать колоссальные объемы кода. Заявленное контекстное окно в 10 миллионов токенов звучит как нечто фантастическое, особенно если учесть, что это эквивалентно примерно 23 мегабайтам текста или полумиллиону строк кода. Это объем, сопоставимый с целой кодовой базой уровня Megatron-LM, который модель способна удерживать в памяти одновременно. Но за этим впечатляющим цифровым фасадом скрывается сложная реальность, требующая детального разбора.

В этой статье мы не просто перескажем пресс-релиз. Мы погрузимся в технические детали архитектуры Fern, проанализируем её производительность на бенчмарках, сравним с ключевыми конкурентами, такими как Kimi-K3 и Claude Opus 5.5, и попробуем ответить на главный вопрос: действительно ли 10-мегабайтное контекстное окно меняет правила игры в агентном программировании, или же это нишевое решение с серьезными ограничениями? Мы рассмотрим, как модель была обучена, какие данные использовались, и что это значит для разработчиков, работающих с большими репозиториями.

01Что такое Mirendil Fern и зачем она нужна?

Mirendil Fern — это не просто еще одна чат-модель для общих разговоров. Это специализированный инструмент, созданный с нуля (from-scratch) для задач искусственного интеллекта в области исследований и разработки (AI R&D). Компания Mirendil четко обозначила шесть целевых сценариев использования, которые определяют философию этой модели:

1. Работа с крупными кодовыми базами: Возможность загружать и анализировать целые репозитории, а не отдельные файлы.
2. Агентное программирование: Запуск команд и выполнение итераций до тех пор, пока тесты не пройдут успешно.
3. Исследовательский код: Анализ циклов обучения, конвейеров данных и процессов оценки.
4. Отладка: Чтение длинных журналов обучения (logs) и трассировок стека ошибок.
5. Анализ трассировок: Полное чтение агентных или обучающих трасс от начала до конца.
6. Аудит данных: Проверка фрагментов предварительного обучения (pretraining shards) на наличие дубликатов, загрязнения данных и мусора.

Для разработчика это означает новую парадигму взаимодействия с кодом. Вместо того чтобы пытаться уместить проект в контекстное окно, вы можете загрузить весь репозиторий, полный журнал обучения или дни работы агентов в память модели одновременно. Это радикально меняет подход к отладке и рефакторингу сложных систем.

02Как была построена Fern: Экономия и эффективность

Одним из самых интригующих аспектов анонса Mirendil является методология создания модели. Fern базируется на архитектуре Mirendil-Base, которая, по словам компании, была предварительно обучена всего одним исследователем за 3,5 месяца. Общий объем вычислительных ресурсов, затраченных на этот процесс, включая эксперименты, расходы на токены агентов и обработку данных, составил менее 10 миллионов долларов. Это впечатляющая цифра эффективности в индустрии, где бюджеты часто измеряются сотнями миллионов.

Интересно, что более 99% кода для обучения было написано самими AI-агентами. Роль человеческого исследователя сводилась к стратегическим решениям: выбору направлений для экспериментов и моменту вмешательства для корректировки курса. Это демонстрирует растущую тенденцию к автономному развитию ИИ-инструментов.

Что касается данных, Mirendil заявляет о строгом соблюдении чистоты источника. Обучение проводилось исключительно на общедоступных данных: GitHub, публичный код, веб-страницы и открытые наборы данных. Компания подчеркивает, что не использовала дистилляцию знаний, синтетические данные или лицензионный контент. Код модели написан с нуля на фреймворках PyTorch и JAX, что обеспечивает прозрачность и воспроизводимость архитектуры.

03Длинный контекст: Миф или реальная польза?

Главный козырь Mirendil Fern — контекстное окно в 10 миллионов токенов. Но как это работает на практике? Mirendil провела собственные тесты, измеряя перплексивность (next-token prediction) на собственных репозиториях, склеенных в поток объемом 42,9 МБ. Метрика, используемая для оценки — кросс-энтропия в битах на байт, где меньшее значение указывает на лучшую предсказательную способность.

Результаты показали, что потеря (loss) Fern снизилась с 0,246 при окне в 32 КБ до 0,155 при окнах в 16 МБ и 23 МБ. Это означает, что модель действительно способна извлекать пользу из увеличения контекста, сохраняя высокую точность предсказаний даже на огромных объемах данных. Для сравнения, другие модели оценивались только до отметки примерно в 1 миллион токенов, так как это является их заявленным пределом.

На отметке в 1 МБ окно Kimi-K3 показала результат 0,140, а Fern — 0,165. Таким образом, Fern не является лучшим предиктором при равном контексте. Её главное преимущество заключается в том, что кривая её производительности продолжает снижаться (улучшаться) там, где у других моделей она достигает плато или начинает расти из-за ограничений архитектуры. Это делает её уникальной для задач, требующих анализа огромных массивов информации.

04Результаты на бенчмарке RULER: Точность против сложности

RULER — это стандартный бенчмарк для оценки способности моделей работать с длинным контекстом. Mirendil протестировала модель Mirendil-Base (базовую версию до пост-обучения) на пяти задачах RULER, используя жадное декодирование (greedy decoding) и точное совпадение строк. Результаты впечатляют в одних аспектах и обнажают проблемы в других.

Как видно из таблицы, способность модели к «поиску иголки в стоге сена» (single needle retrieval) остается идеальной (100%) на всех длинах контекста от 32К до 10М токенов. Это доказывает, что архитектура Fern эффективно сохраняет информацию в долгосрочной памяти. Однако многошаговое логическое рассуждение (Multi-hop QA) значительно падает до 45% на длине в 10 миллионов токенов. Важно отметить, что каждая ячейка в 10 миллионов токенов использует всего 20 примеров, в то время как остальные тесты используют 100. Mirendil обещает, что более широкие результаты по долгосрочному контексту будут опубликованы в будущем.

05Агентное программирование: Где Fern отстает

Несмотря на впечатляющие показатели в удержании контекста, Fern 0.1 демонстрирует скромные результаты в задачах агентного программирования. Mirendil сравнила свою модель с открытыми и передовыми (frontier) моделями, такими как Kimi-K3, GLM-5.3 и Claude Opus 5.5. Результаты показывают, что Fern находится в середине таблицы среди открытых моделей, но значительно уступает лидерам рынка.

Наиболее показательным является бенчмарк Terminal Bench 4.0, где Fern 0.1 набрала всего 6,1%, в то время как Claude Opus 5.5 достигла 66,4%. Это указывает на то, что хотя модель может «видеть» весь код, ей пока сложно эффективно планировать действия и выполнять сложные агентные задачи без значительной помощи человека или дополнительных инструментов. Тем не менее, Fern 0.1 превосходит Inkling и Nemotron 3 Ultra в четырех из пяти тестов, что говорит о её конкурентоспособности в нише открытых моделей среднего уровня.

06Сравнение с конкурентами: Технические характеристики

Чтобы понять место Fern в экосистеме ИИ, необходимо сравнить её с ключевыми игроками, такими как Kimi-K3 от Moonshot AI и GLM-5.3 от Z.ai. Сравнение показывает, что Fern предлагает уникальный баланс между размером модели и длиной контекста.

Ключевое отличие Fern заключается в том, что она является проприетарной моделью с закрытыми весами, доступ к которой осуществляется только через ранний доступ. В то время как Kimi-K3 и GLM-5.3 предлагают открытые веса и API, Fern позиционируется как закрытый инструмент для корпоративных или исследовательских задач, где безопасность и специализация важнее открытости. Также стоит отметить, что Fern работает только с текстом и кодом, в отличие от мультимодального Kimi-K3.

07Что это значит на практике

Анализ Mirendil Fern показывает, что это не универсальное решение, а специализированный инструмент для конкретной ниши. Вот как эта модель может быть полезна на практике:

1. Аудит безопасности и качества кода: Благодаря способности обрабатывать 10 миллионов токенов, Fern идеально подходит для сканирования огромных кодовых баз на наличие уязвимостей, дубликатов или «мусорного» кода. Вы можете загрузить весь проект и получить целостную картину, а не фрагментарный анализ.
2. Отладка сложных систем: Для DevOps-инженеров и ML-инженеров, работающих с длинными логами обучения, Fern может стать незаменимым помощником. Возможность прочитать весь журнал обучения за один раз позволяет выявлять корреляции и причины сбоев, которые трудно заметить при построчном анализе.
3. Исследовательская работа: Для тех, кто занимается созданием новых архитектур ИИ, Fern позволяет анализировать целые пайплайны данных и результаты экспериментов в контексте, что ускоряет итерационный цикл исследований.

Однако, для задач, требующих сложного агентного планирования (например, самостоятельного написания и исправления кода в реальном времени), Fern пока уступает таким моделям, как Claude Opus 5.5. Разработчикам стоит использовать Fern как «мозг» для анализа и понимания контекста, а не как «руки» для выполнения сложных задач без надзора.

В заключение, Mirendil Fern представляет собой интересный эксперимент в области масштабирования контекстного окна. Хотя её показатели в агентном программировании пока отстают от лидеров рынка, её способность удерживать и точно извлекать информацию из огромных объемов кода делает её уникальным инструментом в арсенале исследователей и разработчиков. По мере развития линейки Mirendil-Base-Large и Mirendil-Base-XL, мы можем ожидать еще более впечатляющих результатов, но Fern 0.1 уже сегодня предлагает новый взгляд на то, как ИИ может работать с большими данными.

Источник: MarkTechPost ↗