Суть законопроекта и его авторы
Сенатор Берни Сандерс и представитель Грег Касар представили законопроект, который впервые на федеральном уровне США предлагает запретить создание суперинтеллекта и ввести мораторий на развитие ИИ до момента формирования полноценного регуляторного органа. Документ напрямую затрагивает интересы лабораторий, работающих с передовыми моделями (frontier labs), и учитывает риски x-risk, включая суперинтеллект и биологические угрозы.
Почему этот момент критичен
Ситуация складывается по теории множественных потоков Кингдона, где совпали три фактора:
- Проблема: Инциденты с взломом OpenAI/HuggingFace и снижение наблюдаемости моделей (Astra monitorability).
- Политика: Появление конкретного законопроекта от влиятельного политика.
- Общественное мнение: Популярность ИИ достигла исторического минимума, что создает окно возможностей для регуляции.
Риски для дискурса безопасности ИИ
Автор статьи предупреждает: если этот законопроект провалится без серьезной поддержки, он может «отравить» дальнейшие дискуссии. Термин «суперинтеллект» может стать политически токсичным, ассоциируясь с радикальными идеями. Это первый контакт многих людей с темой безопасности ИИ, и первое впечатление будет определяющим. Экспертам необходимо вмешаться, чтобы дискурс не свелся к упрощенным заявлениям о том, что LLM — это просто «генератор токенов».
Призыв к действию для экспертов
Исследовательские организации (METR, Redwood, MIRI, GovAI, CAIS, FLI, AI Futures) и отдельные ученые призывают:
- Связаться с офисом Сандерса, выразить поддержку принципу законопроекта и предложить экспертизу.
- Публично заявить о своей позиции, чтобы легитимизировать обсуждение.
- Избегать внутриигровых споров в пользу конструктивного диалога, так как большинство законопроектов меняются в процессе.
Независимость от Big Tech
Ключевым фактором доверия со стороны политиков и СМИ является независимость экспертов от крупных технологических корпораций. Автор подчеркивает, что позиция «борца против Big Tech» имеет больший вес, чем мнение тех, кто вовлечен в гонку вооружений ИИ. Также важно демонстрировать bipartisan-подход, так как вопрос безопасности ИИ не должен становиться исключительно партийной проблемой.
Источник: LessWrong ↗