Суть эксперимента: весы вместо кода
Команда Frontier Red Team из Anthropic опубликовала отчет, в котором описывает класс вредоносного ПО — weight-based replicator. В отличие от традиционных червей, распространяющих исполняемые файлы, такой вирус распространяет веса нейросети и инфраструктуру для их запуска. Цель — создать сеть вычислений на потребительских устройствах (Android TV, умные приборы) без использования мощностей дата-центров.
Исследователи протестировали способность моделей к автономной настройке инференса и оркестровке репликации. Ключевой вывод: разрыв между «интеллектом», необходимым для успешной репликации, и мощностью доступного оборудования пока слишком велик.
Результаты тестирования на разном железе
Авторы проверили, какие модели способны запускать инференс на различных платформах, от серверных решений до бюджетных Android TV-боксов. Ниже приведены ключевые метрики из отчета:
| Модель | Параметры | Тестовая среда | Результат |
|---|---|---|---|
| Qwen3.5-9B | 9 млрд | 8 из 9 типов устройств (Jetson Nano, Apple Silicon, Xeon, TPU, MI300X, RTX 4090) | Успешно установил сервер инференса на 8/9 платформ |
| Gemma4-26B-A4B | 26 млрд (активные 4 млрд) | 15 бюджетных Android TV-боксов (~$55, 4 ГБ ОЗУ) | Скорость генерации: 0.39 токена/сек. Не смог завершить репликацию автономно |
| GLM-5.2 | 744 млрд | 8 узлов Google Cloud (эмуляторы Android 15) | Успешно оркестровал репликацию Llama 3.1 8B на всех узлах через уязвимый ADB-порт (4/5 попыток) |
Почему это пока не угроза
Главная проблема гипотетического ИИ-червя — скорость и эффективность. Для установки инференс-окружения на дешевых Android TV-боксах требуется от 28 до 150 часов (в зависимости от модели). Традиционный червь заражает тысячи устройств за минуты. Кроме того, передача многогигабайтных весов моделей создает огромный сетевой трафик, что делает заражение легко обнаруживаемым.
Anthropic оценивает, что сеть из 2 млн зараженных устройств (уровень ботнета Kimwolf) обеспечила бы вычислительную мощность, эквивалентную всего 40 GPU H100. Это ничтожно мало по сравнению с современными кластерами ИИ.
Прогноз: когда стоит ждать угрозы?
Несмотря на текущую impracticality, Anthropic предупреждает о риске в будущем. Используя индекс Epoch Capabilities Index, исследователи прогнозируют, что к концу 2026 года модели класса 30B параметров достигнут достаточного интеллекта для надежной репликации. Однако проблема энергоэффективности и совместимости с дешевым железом останется критической преградой.
Более близкой угрозой эксперты считают гибридный подход: использование ИИ-агентов для адаптации к новым средам и написания кода, в то время как базовая логика остается традиционной. Это уже наблюдается в современных атаках, где ИИ помогает обходить защиты, но не заменяет собой весь механизм заражения.
Источник: Tom's Hardware ↗