Инициатива по формализации этики AI
На платформе LessWrong появилась детальная proposal (предложение) по созданию «Конституции» для будущих версий языковой модели Claude. Автор инициативы, действующий в рамках методологии антропосоветничества (Anthropomorphic Advice), предлагает структурировать этические и поведенческие ограничения модели в зависимости от её уровня интеллектуального развития. Инициатива актуальна, так как Anthropic активно работает над повышением безопасности своих моделей, и этот документ может стать частью внутреннего или публичного диалога о стандартах.
Классификация по уровням AGI
Автор использует таксономию Google DeepMind для классификации уровней развития AI. Предложенная «Конституция» охватывает несколько ключевых этапов эволюции модели, от базовых способностей до сверхчеловеческого интеллекта. Ниже приведена структура предложенных документов:
| Уровень AGI (по таксономии GDM) | Характеристика | Объем и суть «Конституции» |
|---|---|---|
| Level 5 (Superhuman/ASI) | Сверхчеловеческий интеллект | Однострочная Конституция. Максимально сжатая формулировка, так как модель уже обладает способностью к саморегуляции и пониманию последствий. |
| Level 4 (Exceptional) | Исключительный интеллект | Примерно одна страница. Детальные инструкции по поведению, этике и взаимодействию с человеком на уровне эксперта. |
| Level 3 (Expert) | Экспертный уровень | Начало разработки. Предлагается базовый каркас, который должен быть расширен по мере развития модели. |
| Level 2 (Competent) | Компетентный уровень | Описаны необходимые компоненты. Фокус на надежности и предсказуемости в профессиональных задачах. |
| Level 1 (Emergent) | Возникающие способности | Базовые ограничения. Защита от грубых ошибок и вредоносных действий на этапе формирования базовых навыков. |
Почему это важно?
Предложенный подход выделяется своей иерархичностью. Вместо того чтобы пытаться зашить все этические правила в одну сложную систему для модели любого уровня, автор предлагает адаптировать сложность «Конституции» под когнитивные возможности модели. Для уровня ASI (Level 5) предлагается минималистичный подход, основанный на доверии к сверхразуму, тогда как для более ранних стадий требуется детализированное руководство.
Кроме того, документ учитывает, что будущие версии Claude могут быть не только чат-ботами, но и цифровыми ассистентами, и воплощенным ИИ (роботами). Это означает, что «Конституция» должна быть универсальной для различных форматов взаимодействия с физическим и цифровым миром.
Следующие шаги
Инициатива находится на стадии обсуждения. Автор призывает сообщество и разработчиков из Anthropic обратить внимание на необходимость проактивного определения правил поведения AI до того, как модели достигнут уровня, на котором они смогут самостоятельно интерпретировать или обходить этические ограничения. Это шаг от реактивного контроля к проактивному проектированию безопасности.
Источник: LessWrong ↗