Проблема «pacing» и новая таксономия
Проблема «pacing» (контроля темпов) в развитии ИИ требует четкого определения того, какие именно вычислительные ресурсы следует ограничивать. Исследователи Alek Westover и Nathan Sheffield из LessWrong предлагают новую таксономию, которая позволяет регулировать развитие ИИ, не блокируя полностью инновации. В основе лежит разделение всех вычислительных активностей на две категории: capabilities activities (активности, улучшающие общие способности модели) и non-capabilities activities (узкоспециализированные задачи, не влияющие на прогресс ИИ).
Что считается «non-capabilities»?
Ключевая идея заключается в том, что не вся работа с ИИ должна считаться развитием его общих способностей. Исследователи выделяют четыре основные категории, которые исключаются из лимита «capabilities»:
- Idle compute (Простой): Вычислительные мощности, которые не выполняют никаких задач. Важно: весь GPU должен быть простаивать, а не просто ядро.
- Narrow product development (Узкая разработка продуктов): Создание специализированных моделей или интеграция ИИ в продукты (например, рекомендательные алгоритмы, генерация рекламы, модели сворачивания белков), если они не улучшают общие способности базовой модели.
- Serving customers (Обслуживание клиентов): Инференс для внешних пользователей. Исключение: если компания обучается на взаимодействиях с клиентами или клиенты используют модель для своих R&D-задач.
- Narrow safety activities (Узкая безопасность): Оценка выравнивания (alignment), тестирование безопасности, мониторинг, запуск классификаторов злоупотреблений и расследование инцидентов.
Критерии и философия регулирования
Авторы подчеркивают, что их определение не является идеальным метрическим инструментом, а служит практическим механизмом для регуляторов. Они придерживаются принципа: «False-positives are better than false-negatives» (лучше ошибочно классифицировать что-то как «capabilities», чем пропустить реальное ускорение прогресса). Также они отмечают, что вычислительно неинтенсивные активности можно игнорировать, так как их влияние на общий прогресс незначительно.
Примеры и исключения
Важно отметить, что инференс для внутренних сотрудников (маркетинг, HR, юристы) считается non-capabilities, в то время как инференс для ученых и исследователей ИИ — capabilities. Также узкая безопасность не включает в себя dual-use исследования, которые могут быть использованы как для безопасности, так и для улучшения способностей модели.
Значение для индустрии
Предложенная таксономия позволяет компаниям продолжать инвестировать в безопасность и разработку продуктов, не нарушая ограничений на вычислительные мощности, направленные на развитие общих способностей ИИ. Это создает основу для более гибкого и эффективного регулирования, которое учитывает специфику работы с ИИ.
Источник: LessWrong ↗
