Провокация: ИИ уничтожит «золотую лихорадку» багов
В августе профессор криптографии Джон Хопкинса Мэттью Грин опубликовал пост, ставший вирусным в среде кибербезопасности. Его тезис прост и пугающ: большие языковые модели (LLM) становятся настолько эффективны в поиске уязвимостей, что компании начнут массово устранять баги. Если программный код станет практически идеальным, правоохранительным органам (FBI, спецслужбам) не за что будет «зацепиться» при законном взломе устройств преступников. Грин опасается, что это вынудит правительства требовать внедрения бэкдоров (задних дверей) в устройства, что снизит безопасность для всех пользователей.
Контекст: Конец «негласного перемирия»
С 2014 года, когда директор ФБР Джеймс Коми предупредил о риске «ухода в темноту» (going dark) из-за сквозного шифрования в Signal и iMessage, существовало негласное перемирие. Правительства не требовали бэкдоров, а покупали дорогие эксплойты нулевого дня (zero-days) у частных фирм. Однако, если ИИ автоматизирует поиск уязвимостей, этот рынок может исчезнуть, так как багов станет слишком мало.
Мнения экспертов: Разделенный фронт
Эксперты разделились во мнениях относительно того, насколько быстро ИИ заменит человеческих исследователей безопасности. Одни видят конец эры сложных эксплойтов, другие — лишь сдвиг фокуса.
| Эксперт / Должность | Позиция | Аргументация |
|---|---|---|
| Луна Тонг (бывший исследователь) | Согласна с Грином | Текущий поиск багов — временная «золотая лихорадка». ИИ скоро сделает уязвимости редкостью. |
| Паоло Стагно (CTO Crowdfense) | Тревожится | Государства не откажутся от слежки. Если багов не станет, начнется новый виток требований к бэкдорам. |
| Хамид Каши (DarkCell/Xbow) | Не согласен | ИИ находит только простые баги. Сложные, ценные уязвимости (20 на 1 найденный ИИ) остаются в тени и не сообщаются вендорам. |
| Эва Гальперин (EFF) | Скептик | ИИ помогает и защитникам, и атакующим. Главная проблема — не отсутствие багов, а сложность их быстрого патчинга. |
| Кэти Муссури (Luta Security) | Оптимист | До полной безбаговости еще далеко. Давление на бэкдоры начнется не раньше следующих выборов в США. |
Почему это важно для бизнеса и пользователей
Если сценарий Грина реализуется, мы можем увидеть законодательные инициативы, обязывающие производителей ПО (Apple, Google, Microsoft) создавать механизмы обхода шифрования по запросу властей. Это вернет эру, когда безопасность устройства зависит от решения правительства, а не от настроек пользователя. До этого момента, по оценкам экспертов, осталось как минимум несколько лет, но гонка вооружений между ИИ-сканерами уязвимостей и ИИ-генераторами кода уже началась.
Источник: TechCrunch ↗