Одна новость взяла и сдвинула тему AI (искусственный интеллект) из лабораторий в банки. Антропик удерживает модель Mythos вне публичного доступа из-за риска злоупотребления.
Поводом стала экстренная встреча в США с участием главы ФРС Джерома Пауэлла и банка во главе с представителями инвесткругов. Теперь вопрос о AI уже не про удобство, а про защиту финансовой системы в целом.
По версии AI Post, речь уже идёт о модели, которую сравнивают с инфраструктурным риском, а не просто с новым ПО.
Что реально изменилось: Mythos поставили в рамку системного киберриска
\nMythos описывают как модель нового поколения, способную на автономный (самостоятельный) взлом систем, включая ОС и браузеры. Она умеет искать уязвимости быстрее, чем классические скрипты аудита.
Ключевая переменная здесь — масштаб. Если раньше AI для хакерских сценариев был экспериментом, то теперь им рисуют прямую угрозу экономике и инфраструктуре.
- Mythos не выпущен публично, потому что риск компрометации оценили слишком высоким для массового доступа.
- Доступ открыт примерно 40 компаниям в рамках Project Glasswing, то есть в строго лимитированном контуре.
- Цель бета-доступа не монетизация, а закрытие уязвимостей до того, как они станут рычагом атаки.
- Ранее уже фигурировали китайские хакерские группы, работавшие с более слабым Claude-модельным вариантом.
- По открытым сообщениям, такие действия затронули свыше 30 организаций в отдельных эпизодах эксплуатации.
- Руководители крупнейших банков признали: текущие контуры защиты не успевают за темпом развития таких моделей.
Отдельно это показывает смещение: AI не встраивают «попробовать и потом убрать», его запускают как контролируемый актив риска.
Для бизнеса это сигнал, что AI-технологии уходят в зону critical infrastructure (критической инфраструктуры) по смыслу управления.
Зачем так жёстко: за чем стоит решение не выпускать Mythos публично
\nЕсли модель может действовать автономно, то скорость последствий растёт в разы. Ошибка в доступе превращается из багa в финансовый инцидент за минуты.
Ограниченный релиз для Anthropic здесь не жесткость ради репутации. Это попытка уменьшить окно урона, пока защита и регуляторы синхронизируются.
- Контроль доступа снижает вероятность быстрых массовых атак на неготовые системы.
- Сначала закрытый контур для патча уязвимостей, потом только расширение по результатам.
- Событие с банками подтверждает, что AI-риск теперь считают элементом национальной безопасности.
- Регулятору и бизнесу важен не только recall (возврат модели), а управляемая эксплуатация.
- Снижение риска строится на сценарном планировании: кто влияет на сеть, где хранится ключ, какие контуры могут дать каскадный сбой.
По сути, это переход к новой логике: модель — не «инструмент», а компонент риска, как платформа оплаты или платежный шлюз.
Если раньше AI-команды спешили расширять выдачу функций, теперь они вынуждены проектировать ограничения ещё на уровне разработки и доступа.
Как использовать урок Mythos уже в вашей компании прямо сейчас
\nДаже если вы не банк, ваша компания тоже может оказаться точкой входа для AI-эксплуатаций. Критично настроить процессы уже сегодня.
Приведу рабочий план без теории и без паники:
- Соберите 10 самых рискованных AI-сценариев: доступы, загрузки файлов, команды с кодом, интеграции с браузером.
- Разделите доступы по уровню: публичный API, внутренний API, и критические автоматизации для операций.
- Проверьте, какие из них допускают автономные действия без человека в цикле approval (ручного подтверждения).
- Добавьте тест на benchmark (тест производительности) по скоростным и контролируемым инцидентам раз в 2 недели.
- Внедрите правило: если AI-сценарий затрагивает платежи или учет, запускайте его только после проверки risk owner (владельца риска).
- Отдельно проводите «учебные атаки» раз в месяц: имитация утечки, отказного поведения и несанкционированной эксфильтрации.
| Слепая зона | Что проверить | Что даст |
|---|---|---|
| Лимиты доступа | Кто запускает AI и с какими правами | Меньше случайных эскалаций прав |
| Интеграции | Есть ли мосты к браузеру, файловой системе, терминалу | Снижение пути для автоматического проникновения |
| Логи | Логируются ли промпты и ответы с пометкой бизнес-риск | Быстрая диагностика и доказательная трасса |
| Резервные сценарии | План отключения AI-компонента за 5 минут | Сохранение бизнес-процессов при инциденте |
Чтобы не потерять темп, можно проверить два уровня зрелости: «непрерывный контроль» и «аварийное резервирование». Первый нужен ежедневно, второй — раз в квартал.
Источники тоже меняются: если вы строите AI-проекты в проде, добавьте в KPI пункт по управляемости риска, а не только скорости ответа.
Оригинальный пост в Telegram AI Post отразил саму суть сжатым сообщением: риск теперь считают системным.
Неочевидный вывод: мы вступаем в эпоху, где AI-модель может стать не ассистентом отдела безопасности, а объектом безопасности сам по себе.