Жесткие сроки: когда отключат доступ
OpenAI официально меняет стратегию в области адаптации моделей под задачи клиентов. Сервис самообслуживаемого дообучения (self-serve fine-tuning) закрывается в два этапа:
- 23 октября 2026 года: Полное отключение всех дообученных копий модели
gpt-4.1-nano. Это затронет команды, потратившие кварталы на кураторство данных и интеграцию в продакшн. - 7 мая 2026 года: Закрытие доступа к созданию новых задач дообучения для организаций, ранее не использовавших этот сервис.
- 6 января 2027 года: Полное прекращение возможности создания новых задач дообучения для всех активных клиентов.
Причина, озвученная в рассылке разработчикам (сообщено через Tessl): новые базовые модели, такие как GPT-5.5, значительно лучше справляются с соблюдением инструкций и форматов, что делает ручное дообучение избыточным.
Почему это сложнее, чем «загрузить CSV»
Индурия долгое время воспринимала fine-tuning как простой процесс: загрузить данные, нажать Train. Реальность же требует огромных ресурсов на подготовку данных. Исследование Meta (LIMA, 2023) показало, что для 65-миллиардной модели LLaMA достаточно всего 1 000 тщательно отобранных примеров для достижения высокого качества. Однако это создает риск «гипотезы поверхностного выравнивания»:
- Модель учится не столько решать задачу, сколько копировать стиль и формат ответов.
- Любая несогласованность в данных (например, разные варианты прощания в транскриптах поддержки) становится постоянной привычкой модели.
- Команды вынуждены генерировать синтетические данные с помощью более мощных моделей, что создает риск обучения на ошибках (synthetic data pitfalls).
Проблема оценки качества (Evals)
Даже если процесс дообучения завершен, определить, стала ли модель лучше, крайне сложно. Падение функции потерь (loss) на обучающей выборке лишь подтверждает переобучение (overfitting). Для реальной оценки нужна независимая тестовая выборка, но существующие бенчмарки ненадежны.
Яркий пример — исследование QLoRA, где модель Guanaco достигла 99.3% от производительности ChatGPT на бенчмарке Vicuna. Авторы статьи одновременно предупреждали, что такие метрики не отражают реального качества чат-ботов. Доверять цифрам из отчетов о дообучении без глубокой валидации нельзя.
Сравнение подходов: Fine-Tuning vs. New Base Models
OpenAI предлагает перейти от адаптации старых моделей к использованию новых базовых версий, которые изначально лучше понимают контекст и инструкции.
| Критерий | Классическое Fine-Tuning | Использование новых базовых моделей (GPT-5.5) |
|---|---|---|
| Сложность подготовки | Высокая: сбор, очистка, форматирование 1k-10k примеров | Низкая: использование системных промптов (prompting) |
| Риск переобучения | Высокий: модель копирует артефакты данных | Минимальный: модель обучена на более широком датасете |
| Срок жизни модели | ~3 месяца (быстрое устаревание) | Долгосрочная поддержка от вендора |
| Оценка качества | Сложная: бенчмарки часто вводят в заблуждение | Стандартизированная оценка производительности |
Что делать разработчикам?
Отказ OpenAI от кнопки «Train» сигнализирует о сдвиге парадигмы. Вместо того чтобы тратить ресурсы на «выращивание» специализированных моделей, командам рекомендуется:
- Перейти на GPT-5.5 или аналогичные новые базовые модели.
- Инвестировать в улучшение prompt engineering и контекстных окон.
- Использовать fine-tuning только в узких случаях, где новые базовые модели критически не справляются с форматом вывода, но осознавать риски устаревания.
Источник: Towards AI pub ↗