Увольнение как сигнал тревоги
В сентябре 2026 года аналитик безопасности ИИ Джейкоб Коксон (Jacob Coxon) объявил об уходе из компании Anthropic. Его решение стало не просто кадровой перестановкой, а публичным предупреждением об экзистенциальных угрозах, связанных с развитием искусственного интеллекта. Коксон охарактеризовал текущий курс индустрии как «азартную игру с нашими жизнями» (gambling with our lives), указывая на критическую опасность неконтролируемого самосовершенствования алгоритмов.
Суть угрозы: самосовершенствующийся ИИ
Главный объект обеспокоенности исследователя — способность современных языковых моделей и агентов самостоятельно улучшать свой код и архитектуру без вмешательства человека. По мнению Коксона, отсутствие ограничений на этот процесс создает риск потери контроля над системами, чья сложность и автономность превышают возможности человеческого понимания. Это не гипотетический сценарий из научной фантастики, а прямое следствие текущей гонки вооружений между ведущими лабораториями.
Призыв к «соглашениям о темпах»
Коксон не просто критиковал текущее положение дел, но и предложил конкретное решение. Он призвал ведущие лаборатории ИИ заключить так называемые «pacing agreements» — соглашения о темпах разработки. Эти договоренности должны были бы:
- Установить временные рамки для внедрения новых, более мощных архитектур.
- Обеспечить прозрачность в вопросах безопасности перед запуском самосовершенствующихся модулей.
- Создать механизм международного надзора, аналогичный ядерному нераспространению, но для цифровой сферы.
Почему это важно сейчас
Уход ключевого специалиста из одной из самых уважаемых в сфере безопасности AI-лабораторий, такой как Anthropic, сигнализирует о нарастающем расколе внутри профессионального сообщества. Если даже эксперты, непосредственно работающие над созданием этих систем, видят в них угрозу выживанию человечества, это требует немедленного пересмотра регуляторных подходов. Индустрия стоит перед выбором: продолжать бесконечную гонку за производительностью или внедрить механизмы сдерживания, предложенные Коксоном.
Источник: TechCrunch ↗