Проблема «Криптографических коробок»
В 2010 году Пол Кристиано предложил использовать Гомоморфное шифрование (FHE) для запуска произвольно опасных ИИ в песочнице. Идея заключалась в том, чтобы ИИ выполнял вычисления над зашифрованными данными, не имея доступа к ключу. Однако у этого подхода есть три критических недостатка:
- Вычислительные допущения: FHE опирается на сложность задач (например, Learning With Errors). Если у ИИ будет бесконечная вычислительная мощность или будет доказано, что P=NP, шифрование будет взломано.
- Отсутствие информационной безопасности: В отличие от идеальной секретности, FHE не гарантирует, что информация физически недоступна, она лишь вычислительно сложна для извлечения.
- Катастрофическая медлительность: Полностью гомоморфное шифрование работает настолько медленно, что запуск сложных программ становится практически невозможным.
Решение: Многопартийные вычисления (MPC)
Автор статьи, Лизандр Террис, предлагает вернуться к протоколам Secure Multi-Party Computation (MPC), разработанным в 1980-х годах Майклом Бен-Ором, Шафи Голдвассером, Ави Вигдерсоном и Дэвидом Чаумом. В отличие от FHE, MPC обеспечивает информационно-теоретическую безопасность (perfect secrecy): даже при бесконечных вычислительных ресурсах злоумышленник не может извлечь информацию о зашифрованном коде, так как данные разделены на «доли» (shares) между несколькими сторонами.
Сравнение производительности
Ключевое преимущество MPC — скорость. В то время как FHE делает запуск программ практически нереализуемым, MPC замедляет вычисления лишь на константу. На примере симуляции «Breeder 1» из игры «Жизнь» Конвея:
| Метод | Время выполнения (итерация) | Безопасность |
|---|---|---|
| Без криптографии | ~1 секунда | Нет (полный доступ к коду) |
| Secure Multi-Party Computation (MPC) | ~15 секунд | Абсолютная (информационно-теоретическая) |
| Fully Homomorphic Encryption (FHE) | Практически невозможно | Вычислительная (зависит от допущений) |
Почему это важно для безопасности ИИ
Использование MPC позволяет создать «коробку», в которой ни один участник вычислений (включая администраторов) не знает, какой именно код выполняется. Для наблюдателя запуск выглядит как выполнение случайной программы. Это устраняет риск того, что ИИ сможет манипулировать людьми через утечку информации или взлом криптографии, так как защита основана не на сложности вычислений, а на фундаментальных законах теории информации.
Источник: LessWrong ↗