Запуск Resolution: Фокус на фундаментальных проблемах
Организация Resolution, основанная под руководством Джеффри Ирвинга (Geoffrey Irving), официально начала работу. Это одна из немногих крупных институций, напрямую занимающихся «трудной проблемой» выравнивания искусственного сверхинтеллекта (ASI). Ключевая особенность подхода — привлечение исследователей из самых разных областей, а не только из компьютерных наук, что позволяет искать решения в междисциплинарном поле.
Структура и локация: Беркли как хаб
Resolution делает ставку на большинство сотрудников работают в офисе (in-person), объединив команду в Беркли. Это стратегическое решение обусловлено необходимостью быстрого обмена знаниями в зарождающейся дисциплине. Физическое соседство с крупными лабораториями ИИ также рассматривается как преимущество для синергии и обмена опытом.
Ключевые направления и команда
Организация уже привлекла высококвалифицированных исследователей, установив высокий порог входа. Особое внимание уделяется возрождению команды по фундаментальным основам агентов (agent foundations), что критически важно для понимания поведения автономных систем. Ниже приведена сводка ключевых характеристик организации:
| Параметр | Значение / Описание |
|---|---|
| Лидер | Джеффри Ирвинг (Geoffrey Irving) |
| Локация | Беркли, Калифорния |
| Формат работы | Преимущественно очный (in-person) |
| Фокус | Мультидисциплинарное выравнивание ИИ, фундаментальные основы агентов |
| Статус | Активный набор, высокий барьер входа |
Видение: Выравнивание как академическая дисциплина
Автор анализа, IanWS, отмечает, что многие академические исследователи до сих пор не присоединились к движению по безопасности ИИ из-за карьерных рисков или недооценки угрозы. Resolution позиционируется как институт, способный легитимизировать AI alignment как независимую научную дисциплину. Это позволит исследователям по всему миру, включая университеты и некоммерческие организации, профессионально заниматься этой темой без страха за репутацию.
Глобальный масштаб и вызовы
Несмотря на успехи в Беркли, существует риск концентрации усилий в одном регионе. Цель Resolution — стать катализатором для создания аналогичных хабов по всему миру. Это требует не только проведения качественных исследований, но и работы с «социальными сигналами»: публикации, которые убедят академическое сообщество в серьезности проблемы, а также outreach-кампании для привлечения профессоров из других областей. Пока что сигналы от организации оцениваются как позитивные, хотя внутри сообщества существуют дискуссии о выборе конкретных направлений исследований.
Источник: LessWrong ↗