Международная олимпиада по информатике (IOI) и Международная математическая олимпиада (IMO) — это два столпа, на которых держится представление о высшем пилотаже в точных науках. На первый взгляд, они требуют совершенно разных навыков. IOI — это жесткий тест на алгоритмическое мышление, где нужно писать код, проходящий скрытые тесты в условиях строгого лимита времени и ограничений на доступ к интернету. IMO, напротив, требует глубокого математического анализа и строгого построения доказательств на естественном языке. Успех в любом из этих соревнований сам по себе является выдающимся достижением. Но когда одна и та же модель демонстрирует золотой уровень в обеих дисциплинах, это указывает на нечто более фундаментальное: способность архитектуры к глубокой адаптации.
Недавние результаты, полученные командой NVIDIA с использованием семейства моделей Nemotron, показывают, что Nemotron может служить мощной и гибкой основой для создания специалистов мирового класса. Начиная с Nemotron 3, наши инженеры применили комбинацию контролируемого дообучения (SFT), обучения с подкреплением (RL) и инференса, управляемого обратной связью. В результате были созданы системы, которые достигли уровня золотых медалей на IOI 2026 и IMO 2026. Это не просто «еще один бейтлайн», а демонстрация того, как можно превратить общую языковую модель в узкоспециализированный инструмент, способный решать задачи на грани человеческих возможностей.
01Специализация Nemotron: рецепты успеха
Результаты на обеих олимпиадах демонстрируют не просто силу модели, но и воспроизводимость подхода. Мы разработали четкий, повторяемый рецепт специализации, который можно применить к другим сложным доменам. Этот рецепт состоит из четырех ключевых этапов, которые позволили нам достичь выдающихся результатов без необходимости создавать новую базовую модель с нуля для каждой задачи.
Во-первых, мы начали с сильной базовой модели Nemotron. Наличие мощного фундамента критически важно, так как оно обеспечивает широкие знания и общие способности к рассуждению. Во-вторых, мы тщательно курировали предметно-ориентированные задачи и создавали высококачественные трассы рассуждений (reasoning traces). Качество данных здесь играет решающую роль: модель должна учиться не только на ответах, но и на процессе их получения. В-третьих, мы применили стандартные методы пост-обучения, такие как SFT, и, где это было целесообразно, RL. Наконец, мы соединили специализированную модель с инференс-петлей, которая генерирует, оценивает и улучшает кандидаты в ответы. Этот цикл «генерация-проверка-улучшение» позволяет модели исправлять ошибки и находить более оптимальные решения, что особенно важно в условиях ограниченного времени на олимпиадах.
02От общего программирования к золоту IOI 2026
Для участия в IOI 2026 мы курировали набор из 22 000 задач и сгенерировали синтетические трассы рассуждений для обучения двух специализированных моделей. Первая модель, Nemotron-3-Nano-CC, имела 30 миллиардов общих параметров и 3 миллиарда активных параметров. Она прошла как SFT, так и RL. Вторая модель, Nemotron-3-Ultra-CC, была значительно мощнее: 550 миллиардов общих параметров и 55 миллиардов активных параметров. Для Ultra-CC мы применили только SFT, что оказалось достаточным для достижения выдающихся результатов.
Прогресс на IOI 2025 наглядно демонстрирует ценность специализации. Модель Nano улучшила свой результат с 130 баллов до 280 после SFT и до 291 после RL. Однако настоящим прорывом стало применение стратегии GenCorrect — итеративной стратегии генерации, оценки и уточнения. С ее помощью Nano достигла 468 баллов, преодолев порог золотой медали в 438.3. Модель Ultra-CC, используя ту же стратегию на этапе тестирования, достигла 502 баллов. В финальном зачете IOI 2026 Ultra-CC набрала 535.4 из 600, что выше порога золотой медали (361.12) и даже выше лучшего результата человека (498.27).
Важно отметить, что результат IOI был получен в ходе живого, проспективного запуска в условиях, максимально приближенных к реальным: те же временные ограничения, те же правила доступа к интернету и те же правила подачи решений. Это был неофициальный, несупервизорный бенчмарк, и он не вошел в официальный рейтинг IOI, но он доказал, что модель способна работать в реальных условиях соревнования. Эксперименты также показали, что адаптация не всегда требует одинакового подхода. Для Nano основным вкладом в улучшение дало SFT, а RL добавило небольшой, но стабильный прирост. Для более сильной модели Ultra одна эпоха SFT была достаточна, чтобы превзойти полностью дообученную Nano модель как на IOI, так и на других бенчмарках, таких как ICPC и LiveCodeBench Pro. Это открытие направляло нас при создании системы Ultra-CC для IOI 2026.
03Обучение Nemotron доказывать, проверять и пересматривать
Проект IMO применил ту же философию специализации к олимпиадной математике. Начиная с Nemotron 3 Ultra, мы обучили одного специалиста с помощью SFT, а другого — с помощью RL. Корпус данных для SFT содержал 414 890 примеров, отфильтрованных по качеству, охватывающих 15 818 уникальных задач на доказательство. Эти данные делали больше, чем просто учили финальным ответам. Они охватывали генерацию доказательств, их уточнение, проверку и мета-верификацию. Таким образом, модель научилась конструировать аргументы, выявлять пробелы, реагировать на критику и оценивать полноту доказательства.
Модель RL была обучена на 9 597 задачах, отобранных вблизи «границы возможностей» модели. Это означает, что модель училась решать задачи, которые были для нее сложными, но решаемыми, что способствует более глубокому пониманию. Оба дообученных чекпоинта превзошли общую модель в экспериментальных условиях. Модель SFT была сильнее в первом раунде поиска, в то время как модель RL достигла лучшего результата в виде одного чекпоинта. Их сильные стороны были дополняющими, поэтому финальная система использовала обоих специалистов вместе с общей моделью.
Для каждой задачи IMO модели генерировали кандидаты в доказательства, оценивали их, создавали критику и уточняли самые перспективные попытки. Отдельный этап с высокими вычислительными затратами выбирал финальное решение. Вся система работала на естественном языке, без использования формальных доказателей, внешних инструментов или доступа к интернету. Она набрала 30 из 42 баллов, включая полный кредит за четыре из шести задач, и превысила официальный порог золотой медали (29 баллов). Это доказывает, что даже без формальной верификации языковые модели могут достигать высочайшего уровня в математическом доказательстве.
04Дообучение и вычисления на этапе тестирования работают вместе
Наши предыдущие публикации, такие как пост о IOI 2025, показывали, как вычисления на этапе тестирования (test-time compute) могут выводить открытые модели на уровень золотых медалей. Новые результаты добавляют важный компонент: лучшая специализация дает системе инференса лучшие кандидаты, лучших критиков и лучшие возможности для уточнения. На IOI стратегия GenCorrect превратила преимущества дообучения в еще большие улучшения за несколько раундов обратной связи. На IMO использование дополняющих чекпоинтов SFT и RL было более ценным, чем просто отбор большего количества образцов из одного чекпоинта.
В обоих случаях лучший результат был достигнут за счет сочетания способного специалиста с системой, которая могла искать, проверять и улучшать. Это различие имеет важное значение. Медали были получены не только благодаря дообучению, и не только благодаря грубой силе выборки. Они стали результатом совместного проектирования модели, данных и инференс-петли. Мы не просто «скармливаем» модели данные, мы создаем экосистему, где модель может рефлексировать и улучшать свои ответы в реальном времени.
05Открытые модели, данные и рецепты на Hugging Face
Мы хотим, чтобы эти результаты были полезны не только для соревнований. Коллекция Nemotron Labs IMO 2026 объединяет чекпоинты SFT и RL, оба набора обучающих данных и Nemotron-IMO-Bench — новый бенчмарк из 200 задач олимпиадного уровня. Статья IMO описывает подход к обучению и систему generate-verify-refine, а репозиторий NeMo-Skills включает конвейер инференса IMO, промпты, поданные доказательства и воспроизводимый быстрый старт. Для программирования модель Nemotron-3-Ultra-CC доступна на Hugging Face, а статья IOI предоставляет рецепт обучения и методологию GenCorrect. Оценка и конвейер инференса IOI также доступны в NeMo-Skills.
Вместе, IMO и IOI предоставляют необычно требовательные доказательства простой идеи: Nemotron можно дообучить до уровня мировых специалистов, а затем составить с прозрачными инференс-рабочими процессами для решения задач на переднем крае человеческих соревнований. Мы рады увидеть, что сообщество Hugging Face построит дальше на этой основе. Открытость данных и моделей позволяет другим исследователям и разработчикам экспериментировать, улучшать и адаптировать эти подходы под свои нужды, будь то научные исследования, образование или промышленные задачи.
06Что это значит на практике
Для разработчиков и исследователей в России и мире эти результаты означают несколько важных вещей. Во-первых, доступность моделей Nemotron на Hugging Face позволяет локально запускать и дообучать их на собственных данных. Это критически важно для компаний, которые хотят сохранить конфиденциальность данных и избежать зависимости от облачных API. Во-вторых, методология GenCorrect и система generate-verify-refine могут быть применены к другим задачам, требующим сложных рассуждений, таким как юридический анализ, медицинская диагностика или инженерное проектирование. В-третьих, сочетание SFT и RL показывает, что не всегда нужно использовать самые сложные методы обучения; иногда достаточно качественного дообучения и умного инференса. Это снижает барьер входа для создания высокопроизводительных AI-систем. Наконец, результаты на IOI и IMO служат мощным стимулом для сообщества open-source, доказывая, что открытые модели могут конкурировать с закрытыми аналогами в самых сложных задачах.
Мы призываем всех interested parties изучить репозитории NeMo-Skills и коллекции на Hugging Face. Экспериментируйте с данными, пробуйте разные стратегии инференса и делитесь своими результатами. Будущее AI — это совместное создание, и Nemotron предоставляет отличную платформу для этого.
Источник: Hugging Face ↗