Проблема «стоимости сотрудничества»
Автор статьи sciarrino на платформе LessWrong вводит ключевое понятие — cooperation cost (стоимость сотрудничества). Это мера того, насколько активно субъект должен участвовать в процессе проверки. Чем ниже эта стоимость, тем шире доступность технологии и тем сложнее ее контролировать элитам. Автор классифицирует технологии от самой низкой к самой высокой стоимости:
| Уровень | Тип данных | Стоимость сотрудничества |
|---|---|---|
| 1 | Текст (письменная речь) | Минимальная (достаточно наличия текста) |
| 2 | Аудиовизуальные данные | Низкая (публичные выступления, интервью) |
| 3 | Биометрия (полиграф) | Высокая (требуется присутствие и согласие) |
| 4 | Нейронные данные (носимые устройства) | Очень высокая |
| 5 | Нейронные данные (fMRI, инвазивные импланты) | Максимальная (требует медицинского вмешательства) |
Почему удаленные детекторы лучше
Главный аргумент автора: технологии с низкой стоимостью сотрудничества (удаленные) создают более сбалансированный эффект. Они позволяют слабым сторонам (обществу, активистам) проверять сильных (политиков, лидеров AI-лабораторий), в то время как инвазивные детекторы чаще используются элитами для чисток лояльности внутри своих структур.
- Доступность: Удаленные алгоритмы работают на вычислительных мощностях, доступны для open-source и запускаются через AI-ассистентов. Инвазивные детекторы требуют дорогого оборудования, которое легко монополизировать.
- Невозможность отказа: Политик может отказаться от полиграфа, но не может скрыть свои исторические видеоинтервью или публичные заявления, которые можно проанализировать ретроспективно.
Риски для AI-лабораторий и государства
Статья предупреждает о двойственном применении технологии. С одной стороны, точные детекторы лжи могут сделать эффективными проверки лояльности (loyalty purges) в правительстве и оборонных подрядчиках. Это может привести к вытеснению сотрудников, выражающих опасения по поводу безопасности ИИ, под предлогом «нелояльности».
С другой стороны, именно удаленные детекторы могут стать инструментом контроля за лидерами. Если CEO OpenAI, Google или xAI публично заявляют о безопасности ИИ, анализ их прошлых выступлений может выявить противоречия и скрытые мотивы, снижая риск концентрации власти в руках узкой группы лиц.
Вывод: ускорять нужно удаленные технологии
Автор остается нейтральным относительно общего ускорения развития детекторов лжи, отмечая потенциальный негатив. Однако, если развитие неизбежно, приоритет следует отдавать технологиям с низкой стоимостью сотрудничества. Их широкое распространение и открытость создают систему сдержек и противовесов, которую элитам сложнее подавить, чем закрытые инвазивные системы.
Источник: LessWrong ↗