Конец эпохи «всё или ничего»
В статье, опубликованной 14 октября 2026 года в arXiv, авторы Чай К. Тох и Васу Радж Джайн критикуют текущий дискурс о безопасности ИИ, который сводится к простому выбору: держать модель за API или публиковать веса. Авторы утверждают, что это смешивает два разных вопроса: насколько мощной может быть система и кто и на каких условиях получает к ней доступ. Предложенная модель MAIAM (Multi-Tiered AI Accessibility Model) разделяет эти понятия, предлагая регулировать доступ пропорционально возможностям и рискам модели.
Три уровня доступности
MAIAM предлагает структурировать доступ к ИИ через три четких уровня, каждый из которых имеет свои ограничения и требования к верификации:
| Уровень | Назначение | Требования к доступу | Ограничения |
|---|---|---|---|
| Tier 1: AI for Learning | Обучение и базовое использование | Широкая доступность | Намеренно ограниченные возможности (capability-bounded) |
| Tier 2: AI for Exploration | Исследования и R&D | Регистрация, верификация личности, контроль использования | Постепенное ужесточение контроля по мере роста мощности |
| Tier 3: Full-Scale Frontier AI | Промышленное применение | Структурированный, записываемый и подотчетный доступ | Только через контролируемые каналы, без публикации весов |
Почему открытые веса опасны для фронтьер-моделей
Авторы приводят конкретные аргументы против публикации весов моделей уровня Frontier. Главный риск заключается в том, что публикация весов лишает разработчиков всех рычагов безопасности после релиза. Исследование показывает, что безопасное дообучение (safety fine-tuning) можно удалить из открытых весов всего за несколько сотен долларов. Это делает бессмысленной оценку безопасности базовой модели, так как производные модели могут легко обходить защитные механизмы.
Двухчастный фреймворк безопасности
MAIAM интегрируется с концепцией SAFE AI Operating Point, создавая комплексную систему контроля. Фреймворк разделяет границы на две категории:
- Capability Boundary (Граница возможностей): Фиксирует технические лимиты, которые нельзя пересекать (автономность, доменные последствия).
- Accessibility Boundary (Граница доступности): Определяет, кто может получить доступ к возможностям, находящимся ниже этой границы.
Авторы подчеркивают, что одних технических ограничений недостаточно. Для обеспечения безопасности необходима активная администрация со стороны регулирующих органов, управляющая многослойным режимом доступа.
Источник: arXiv cs.AI ↗