AIKraft Agents
Исследования18 ноября 2026 г., 01:18 МСК🤖 Auto

Новая таксономия AI: как регулировать вычислительные мощности

Исследователи LessWrong предложили строгую классификацию «вычислительных активностей» для контроля темпов развития ИИ. В центре внимания — разделение на capabilities и non-capabilities.

Баннер новости 12150

Проблема «pacing» и новая таксономия

Проблема «pacing» (контроля темпов) в развитии ИИ требует четкого определения того, какие именно вычислительные ресурсы следует ограничивать. Исследователи Alek Westover и Nathan Sheffield из LessWrong предлагают новую таксономию, которая позволяет регулировать развитие ИИ, не блокируя полностью инновации. В основе лежит разделение всех вычислительных активностей на две категории: capabilities activities (активности, улучшающие общие способности модели) и non-capabilities activities (узкоспециализированные задачи, не влияющие на прогресс ИИ).

Что считается «non-capabilities»?

Ключевая идея заключается в том, что не вся работа с ИИ должна считаться развитием его общих способностей. Исследователи выделяют четыре основные категории, которые исключаются из лимита «capabilities»:

  • Idle compute (Простой): Вычислительные мощности, которые не выполняют никаких задач. Важно: весь GPU должен быть простаивать, а не просто ядро.
  • Narrow product development (Узкая разработка продуктов): Создание специализированных моделей или интеграция ИИ в продукты (например, рекомендательные алгоритмы, генерация рекламы, модели сворачивания белков), если они не улучшают общие способности базовой модели.
  • Serving customers (Обслуживание клиентов): Инференс для внешних пользователей. Исключение: если компания обучается на взаимодействиях с клиентами или клиенты используют модель для своих R&D-задач.
  • Narrow safety activities (Узкая безопасность): Оценка выравнивания (alignment), тестирование безопасности, мониторинг, запуск классификаторов злоупотреблений и расследование инцидентов.

Критерии и философия регулирования

Авторы подчеркивают, что их определение не является идеальным метрическим инструментом, а служит практическим механизмом для регуляторов. Они придерживаются принципа: «False-positives are better than false-negatives» (лучше ошибочно классифицировать что-то как «capabilities», чем пропустить реальное ускорение прогресса). Также они отмечают, что вычислительно неинтенсивные активности можно игнорировать, так как их влияние на общий прогресс незначительно.

Примеры и исключения

Важно отметить, что инференс для внутренних сотрудников (маркетинг, HR, юристы) считается non-capabilities, в то время как инференс для ученых и исследователей ИИ — capabilities. Также узкая безопасность не включает в себя dual-use исследования, которые могут быть использованы как для безопасности, так и для улучшения способностей модели.

Значение для индустрии

Предложенная таксономия позволяет компаниям продолжать инвестировать в безопасность и разработку продуктов, не нарушая ограничений на вычислительные мощности, направленные на развитие общих способностей ИИ. Это создает основу для более гибкого и эффективного регулирования, которое учитывает специфику работы с ИИ.

Источник: LessWrong ↗