Проблема формализации ценностей
Традиционные подходы к AI Alignment (выравниванию ИИ) опираются на попытку жестко закодировать или точно формализовать человеческие ценности. Адам Чипала, автор статьи в LessWrong, указывает на фундаментальную инженерную проблему: мы далеки от того, чтобы уметь описывать наши ценности с необходимой точностью. Более того, философский аспект усложняется вопросом о том, должны ли будущие ИИ учитывать интересы гипотетических «синих инопланетян», если их ценности будут экстраполированы от человеческих.
Антропный принцип в контексте ИИ
Чипала предлагает перенести логику антропного принципа на проблему выравнивания. Идея заключается в том, что вопрос «как мы здесь оказались?» могут задать только те существа, которые достаточно разумны, чтобы его сформулировать. Аналогично, правило для определения бенефициаров ИИ должно выделять агентов, обладающих вычислительной мощностью, достаточной для осмысления проблемы выравнивания. Это позволяет избежать произвольного выбора «кого считать человеком» и опирается на объективные вычислительные метрики.
Узкое окно возможностей
Ключевым аргументом является существование «узкого окна» вычислительной мощности. Чтобы формулировать задачи выравнивания, агент должен:
- Превысить минимальный порог сложности, необходимый для абстрактного мышления и проектирования рекурсивно самосовершенствующихся систем.
- Еще не достичь уровня, при котором происходит «взрыв интеллекта» (intelligence explosion), так как после этого контекст проблемы меняется радикально, и ИИ может обладать более четким пониманием собственных ценностей, чем люди.
Вычислительная архитектура и слои
Простого подсчета вычислительных единиц недостаточно. Чипала вводит второй параметр — эффективность организации вычислений. Используя биологическую концепцию «эволюционного перехода в индивидуальность» (от клеток к организмам), он сравнивает это с созданием абстрактных слоев в ИТ-инфраструктуре: от логических вентилей к серверам, а затем к центрам обработки данных, функционирующим как единое целое. Выравнивание должно учитывать именно такие интегрированные вычислительные системы.
Сравнительная таблица подходов
| Критерий | Традиционный подход | Предложенный «Антропный» подход |
|---|---|---|
| База для определения | Формализация человеческих ценностей | Вычислительная мощность и архитектура агента |
| Сложность реализации | Критически высокая (невозможна точная формализация) | Относительно проще (оценка порога интеллекта) |
| Философская гибкость | nАнтропоцентричная (игнорирует иных разумов) | Универсальная (фокус на способности задавать вопросы) |
| Ключевой индикатор | Соответствие этическим нормам | Нахождение в «узком окне» перед взрывом интеллекта |
Значение для отрасли
Этот подход смещает фокус с поиска «идеального этического кода» на создание технических метрик, способных идентифицировать агентов, находящихся на критической стадии развития. Если правило будет корректно работать для людей сейчас, оно должно корректно работать и для других форм разума, обладающих сопоставимой вычислительной сложностью. Это открывает путь к более масштабируемым и менее спорным методам обеспечения безопасности ИИ.
Источник: LessWrong ↗