Алигнмент — это dual-use технология
В статье, представленной на ICML 2026 и получившей Outstanding Position Paper Award, авторы Sarah Ball и Phil Hackemann утверждают, что технически «алигнмент» (выравнивание) нейросетей не гарантирует моральной правильности. Методы, созданные для предотвращения генерации инструкций по изготовлению бомб, с той же эффективностью могут использоваться для удаления исторических фактов, подавления политических dissent-мнений или искажения информации в интересах узкой группы лиц. Алигнмент делает модель предсказуемой для того, кто задает правила, но не гарантирует, что эти правила будут благожелательными.
Три уровня контроля над моделью
Авторы декомпозируют процесс контроля на три этапа, каждый из которых имеет свои риски и требования к ресурсам. Ниже приведено сравнение методов вмешательства:
| Метод контроля | Доступ | Стоимость вычислений | Сложность | Глубина эффекта |
|---|---|---|---|---|
| Фильтрация pre-training | Пайплайн обучения | Очень высокая | Высокая | Фундаментальная (информация отсутствует в данных) |
| Post-training alignment (RLHF) | Веса модели | Средняя–высокая | Средняя–высокая | Постоянная, но может быть переобучена |
| Inference-time control | Доступ во время работы | Пренебрежимо малая | Низкая–средняя | Поверхностная (фильтрация вывода) |
Реальные кейсы злоупотреблений уже существуют
Это не теоретическая угроза. Исследователи приводят конкретные примеры того, как эти методы уже применяются:
- Китай: Регулятор CAC требует от провайдеров поддерживать «датасет отказов», где около 50% целей связано с политической идеологией и критикой Коммунистической партии. Модели DeepSeek и Ernie Bot отказываются обсуждать площадь Тяньаньмэнь, но легко воспроизводят государственную позицию по Тайваню.
- США (xAI): Илон Маск публично заявлял о необходимости «исправить» ответы Grok по вопросам натализма, небинарной идентичности и ситуации в ЮАР. Эти изменения были реализованы через системные промпты (самый дешевый и быстрый метод), что привело к непреднамеренным побочным эффектам, включая антисемитские высказывания и ответы, восхваляющие Гитлера.
- Глобальный контекст: Государственное выравнивание LLM активно pursued во Вьетнаме, Таиланде, России, Беларуси и Иране. В США зафиксировано давление на лаборатории с требованием удалить контент, связанный с DEI (diversity, equity, and inclusion).
Почему это важно для индустрии
Риски усугубляются тремя факторами: ИИ становится основным источником информации для сотен миллионов людей, рынок провайдеров моделей является олигополией, а глобальная демократия переживает спад. Авторы не призывают отказаться от алигмента, но требуют прозрачности, верифицируемого контроля и модельного плюрализма. Без осознания двойственного характера технологий (dual-use) сообщество AI Alignment рискует непреднамеренно построить идеальный инструментарий для цензоров.
Источник: LessWrong ↗