Лаборатория AE Studio объявила о запуске программы CRUCIBLE, финансируемой через агентство IARPA (Intelligence Advanced Research Projects Activity). Программа направлена на ускорение исследований в области AI Alignment (согласования целей ИИ) путем создания гибридных команд, объединяющих внешних исследователей с внутренними инженерами AE.
Механика участия: спринты и ресурсы
Участники отбираются на основе предложений, отвечающих на один из шести открытых вопросов, сформулированных AE. Формат работы предполагает двухнедельные спринты, в течение которых исследователи обязаны уделять проекту минимум 2 часа в неделю. Взамен AE предоставляет:
- Вычислительные мощности (compute) для экспериментов;
- Более 60 часов инженерной поддержки от внутренней команды;
- Возможность расширения успешных спринтов в долгосрочные финансируемые проекты.
Ключевые детали и метрики
Программа носит конкурсный характер. Из всех поданных заявок будет выбрано всего 6 исследователей, что подчеркивает высокую значимость каждого отобранного проекта. Дедлайн подачи заявок строго ограничен:
| Параметр | Значение |
|---|---|
| Организатор | AE Studio (при поддержке IARPA) |
| Количество отбираемых исследователей | 6 человек |
| Длительность базового спринта | 2 недели |
| 2 часа в неделю | |
| Инженерная поддержка | >60 часов |
| Дедлайн заявок | 15 ноября, 23:59 PST |
Почему это важно
Запуск CRUCIBLE сигнализирует о переходе исследований AI Alignment из академической среды в более структурированное, ресурсообеспеченное русло. Предоставление реальных вычислительных мощностей и инженерного плеча позволяет исследователям не просто публиковать теории, но и проводить валидацию гипотез на практике. Для сообщества это шанс получить доступ к закрытым ресурсам AE и повлиять на повестку безопасности ИИ через прямое сотрудничество с ведущей лабораторией.
Источник: LessWrong ↗