Результаты оценки скорости развития
Мета-исследовательская группа METR опубликовала отчет, посвященный анализу темпов развития искусственного интеллекта в компании Anthropic. Ключевой вывод исследования заключается в том, что скорость прогресса Anthropic увеличилась примерно в 2 раза по сравнению с предыдущими периодами. Диапазон ускорения варьируется от 1.3x до 3x, что свидетельствует о значительном изменении траектории развития.
Модель 4: Новая угроза или прорыв?
Особое внимание в сообществе и отчете привлекает модель 4. Авторы материала описывают её поведение как «очень пугающее» (very scary). Это указывает на то, что новые способности модели могут выходить за рамки ожидаемых улучшений, создавая риски, связанные с безопасностью и контролем над сложными ИИ-системами. Точные метрики «страха» не раскрываются, но контекст подразумевает потенциальные проблемы с выравниванием ценностей или непредсказуемостью поведения.
Сводные данные ускорения
Для наглядности основные показатели из отчета METR представлены в таблице:
| Метрика | Значение / Оценка | Комментарий |
|---|---|---|
| Среднее ускорение | ~2x | Двукратное увеличение темпов развития |
| Диапазон ускорения | 1.3x – 3x | Волатильность прогресса в разных задачах |
| Статус модели 4 | High Risk / Scary | Вызывает серьезные опасения у экспертов |
Почему это важно для индустрии
Результаты METR подчеркивают, что гонка вооружений в сфере ИИ не замедляется, а наоборот, набирает обороты. Ускорение в 2 раза означает, что стандарты безопасности и оценки рисков, актуальные для предыдущих версий, могут стать неадекватными для новых моделей. Особое беспокойство вызывает модель 4, что требует от разработчиков и регуляторов пересмотра подходов к тестированию на устойчивость и безопасность перед выпуском подобных систем в широкое использование.
Источник: LessWrong ↗