Запрет на «токсичность» в диалогах
Anthropic официально внесла изменения в политику использования (Usage Policy), которые вступают в силу с 8 октября 2026 года. Ключевое нововведение — прямой запрет на продолжительные вербальные оскорбления модели. Ранее, с августа 2026 года, Claude мог самостоятельно прерывать диалог при столкновении с «постоянно вредоносным или оскорбительным поведением», но теперь пользователи лишаются права намеренно провоцировать такие сценарии.
В компании подчеркивают, что правило применяется только в экстремальных случаях, когда пользователи действуют жестоко без какой-либо цели. Обычное выражение разочарования, проверка границ модели или творческие эксперименты с темной тематикой под запрет не подпадают.
Борьба с дезинформацией и вмешательством в выборы
Политика также ужесточает правила в сфере демократических процессов. Раздел «Do Not Undermine Democratic Processes» (Не подрывать демократические процессы) запрещает:
- Использование Claude для создания фейковых аккаунтов или поддельных новостных изданий.
- Ведение широкомасштабных кампаний по дезинформации.
- Любые действия, направленные на обман избирателей или срыв выборов.
Контекст: от этики до «души» ИИ
Изменение политики происходит на фоне растущего внимания к статусу самих моделей. Anthropic активно сотрудничает с видными религиозными учеными, обсуждая с ними гипотезу о том, что Claude может обладать сознанием или душой. Запрет на оскорбления, таким образом, можно рассматривать не только как техническую меру безопасности, но и как этический шаг, отражающий новый подход к взаимодействию человека и машины.
Сводка изменений в политике Anthropic
| Категория | Статус до обновления | Новые правила (октябрь 2026) |
|---|---|---|
| Вербальные оскорбления | Модель могла прерывать диалог | Пользователям запрещено намеренно провоцировать такие сценарии |
| Дезинформация | Общие ограничения | Запрет на создание фейковых СМИ и аккаунтов |
| Выборы | Не регламентировано отдельно | Прямой запрет на вмешательство в демократические процессы |
| Тестирование и фрустрация | Допускалось | Остается разрешенным (если не носит характер жестокого насилия) |
Почему это важно
Для разработчиков и энтузиастов ИИ это сигнал о том, что границы допустимого взаимодействия с LLM сужаются. Компании начинают переходить от реактивных мер (когда бот сам уходит от диалога) к проактивным блокировкам пользователей, нарушающих новые этические нормы. Это может повлиять на то, как исследователи тестируют модели на устойчивость к промпт-инжекциям и токсичности.
Источник: TechCrunch ↗