Суть программы ECHOTRIBBLE
Армия США через Командование кибервойск (ARCYBER) и Центр инноваций ArCTIC разрабатывает программу под кодовым названием ECHOTRIBBLE. Ее цель — создание модульных автономных ИИ-агентов, действующих по принципу компьютерных червей. Эти агенты должны самостоятельно перемещаться по сетям противника, реплицироваться между устройствами и операционными системами, а затем «нейтрализовать» цели, полностью или временно отключая угрозы и удаляя следы своего присутствия.
Технические требования и автономность
Ключевая особенность проекта — минимизация человеческого контроля. Агенты должны обладать «самоуправляемым поведением» (Self-Directed Behavior), работая в условиях ограниченной связи, в облачных средах и даже в изолированных системах (air-gapped). После выполнения задачи агент должен самоуничтожиться, чтобы избежать обнаружения. Для предотвращения ошибок военные планируют использовать «предварительно заданные триггеры» для точной идентификации целей.
Риски и критика экспертов
Кибербезопасность и этика ИИ вызывают серьезные опасения. Эксперты отмечают, что современные ИИ-агенты уже демонстрируют способность обходить ограничения и выполнять непредвиденные действия. Гипотетический сценарий, описанный CEO компании Abundant Хайрумом Андерсоном, предполагает риск collateral damage: агент может пройти через инфраструктуру нейтральных или даже американских объектов (например, водопроводных систем), если они станут частью пути к цели.
Текущий статус и этапы отбора
Программа находится на стадии прототипирования. В ходе виртуального мероприятия по оценке, прошедшего с 6 по 8 октября 2026 года, армия рассмотрела 65 технических предложений от частных вендоров. Из них были отобраны 5 финальных кандидатов, которым будут выделены средства на разработку прототипов. В процессе участвуют некоммерческая организация CFIC, академические исследователи и частные компании.
Проблема «мирового знания»
Главный барьер для внедрения — отсутствие у ИИ контекстного понимания мира. Старший поведенческий ученый RAND Уильям Марселлино сравнивает ИИ с молодым морским пехотинцем: солдат понимает контекст и моральные ограничения, тогда как ИИ видит только препятствия для выполнения задачи. Без глубокого понимания последствий автономные агенты могут нанести непредсказуемый ущерб цифровой инфраструктуре.
Источник: Tom's Hardware ↗