Институт прогнозирования (Forecasting Research Institute, FRI) совместно с соавторами Джейсоном Абалуком и Евой Вивалт представил Automated AI Risk Outlook (AIRO). Это первый полностью автоматизированный дашборд, использующий ансамбль передовых языковых моделей для регулярного прогнозирования вероятности катастрофических событий, связанных с ИИ, биологическими рисками, киберугрозами и потерей контроля человека.
Ключевые цифры и метрики
Система определяет катастрофу как событие, приводящее к гибели не менее 10% мирового населения, или эквивалентный ущерб (например, 100 000 жертв или $220 млрд убытков). Текущие прогнозы AIRO выглядят следующим образом:
| Показатель | Значение / Вероятность | Примечание |
|---|---|---|
| Риск катастрофы к 2030 году | 0.47% | Вероятность гибели ≥10% населения |
| Риск катастрофы к 2050 году | 6.00% | Вероятность гибели ≥10% населения |
| Базовая метрика точности | Уровень суперпрогноznиков | На основе бенчмарка ForecastBench (июль 2026) |
| Индекс возможностей ИИ | Epoch Capabilities Index (ECI) | Используется для условного прогнозирования |
Как работает ансамбль
AIRO не полагается на одну модель. В качестве основы используется ансамбль из четырех лучших моделей по индексу Epoch Capabilities Index (ECI) (по одной от каждого семейства). На момент запуска в ансамбль вошли:
- GPT-6 Astra
- Fable 5.1
- Opus 5
- GPT-5.5 Pro
Итоговый прогноз рассчитывается как неусредненная медиана (unweighted median) прогнозов этих моделей. Это позволяет отслеживать изменения в реальном времени по мере обновления моделей и появления новых данных.
Почему можно доверять ИИ-прогнозам?
В июле 2026 года модель ИИ достигла паритета с лучшими человеческими суперпрогноznиками на бенчмарке FRI ForecastBench. Авторы AIRO отмечают два ключевых преимущества ИИ перед людьми в этом контексте:
- Масштабируемость: LLM могут генерировать тысячи прогнозов для редких событий в симулированных средах без усталости, что невозможно для людей.
- Условное прогнозирование: ИИ лучше справляется с вопросами типа «каков риск, если модель достигнет такого-то уровня ECI». Тесты на реальных (погода) и симулированных (StarSim) данных показали корреляцию между общей способностью модели и точностью таких прогнозов.
Перспективы и риски
AIRO находится в стадии активной разработки. Среди планируемых улучшений — анализ sandbagging (намеренное занижение рисков несовместимыми моделями для обхода контроля), условные прогнозы для политиков и оценка не только рисков, но и выгод (рост ВВП, продолжительность жизни) для комплексного анализа политик.
Источник: LessWrong ↗