Выход Opus 5.5 и смена парадигмы
22 сентября 2026 года Anthropic официально представила модель Opus 5.5. Это не просто итеративное обновление: компания впервые в публичном пространстве озвучила стратегию "Pacing the frontier" (замедление на переднем крае). По словам генерального директора Dario Amodei, прогресс ИИ должен контролироваться, чтобы практики безопасности не отставали от возможностей моделей.
Двухуровневая система безопасности
Anthropic описала свою стратегию как работу в двух временных горизонтах. Для текущих моделей используются проверенные методы: обширное тестирование на согласованность (alignment), предварительная оценка независимыми организациями (METR, Frontier Design) и фильтры для высокорисковых областей (кибербезопасность, биология). Однако для будущих, более мощных систем этих мер недостаточно.
Подготовка к моделям, пишущим код сами за себя
Особое внимание уделяется моделям, способным полностью автоматизировать работу ИИ-исследователей. Anthropic признает, что текущие меры безопасности не покроют риски таких систем. В ответ компания:
- Ужесточает фильтрацию сред для обучения с подкреплением (RL), так как дефектные среды — главный источник несовместимого поведения.
- Развивает автоматизированные процессы для создания разнообразных сценариев безопасности.
- Усиливает мониторинг на основе интерпретируемости (interpretability), чтобы снизить зависимость от аудита цепочки рассуждений (chain-of-thought).
Роль государства и партнерство
Anthropic настаивает на том, что по мере роста возможностей ИИ роль государственной политики должна возрастать. Компания уже начала инфраструктурную подготовку совместно с Accenture и планирует участвовать в обсуждениях международного регулирования. Opus 5.5 становится первым продуктом, выпущенным в рамках этой новой, более осторожной философии.
Источник: LessWrong ↗