Контекст: Проблема доверия к ИИ
Предлагается создать механизмы проверки соблюдения международных договоров, запрещающих обучение или использование опасных ИИ-моделей. Ключевая идея (Plan A) — установка сетевых tap-устройств внутри дата-центров для записи трафика или его хэшей. Позже, путем выборочной повторной вычислений, можно проверить, соответствуют ли заявленные вычислительные мощности фактическим результатам.
Кто предлагает помощь и почему это важно
Автор поста — AI-инженер компании, разрабатывающей инструменты для строительной отрасли. Его команда ежедневно работает с архитекторами, инженерами и генподрядчиками при строительстве дата-центров. Он подчеркивает, что текущие планы верификации (включая документы Amodo и Cankaya) требуют масштабных физических изменений в инфраструктуре, но не имеют детальных инструкций по монтажу и инспекции.
Специфические задачи для строителей
Команда автора предлагает свою экспертизу в следующих областях:
- Последовательность работ: Как ретрофитить ЦОД, не останавливая полностью работу оборудования? Какие этапы строительства необходимы для установки tap-устройств и оптических сплиттеров?
- Проектирование: Каким должен быть «спецификация» для нового ЦОД, готового к верификации? Какие физические защиты нужны, чтобы предотвратить обход tap-устройств?
- Инспекция и комиссионирование: Как инспекторам подтвердить, что все системы (tap, защита от побочных каналов, сетевое оборудование) установлены корректно? Можно ли адаптировать существующие процессы строительного комиссионирования?
- Префабрикация: Как тренд на сборные компоненты влияет на сроки и возможность установки оборудования?
Пример из практики: Ретрофит за 1 месяц
В планах Plan A упоминается сценарий, требующий установки сетевого оборудования в 40% вычислительных мощностей США (около 4000 серверных стоек с H100e) всего за один месяц. Автор отмечает, что за этой цифрой не стоит оценки трудозатрат и последовательности монтажа, что делает задачу практически невыполнимой без участия специалистов по логистике и строительству.
Призыв к действию
Автор не планирует менять фокус своей компании, но готов выделить часть ресурсов на консультации или исследования. Он ищет контакты с командами, работающими над верификацией ИИ, чтобы понять, где именно их опыт может быть полезен. Это пример того, как узкоспециализированная отраслевая экспертиза может стать ключом к решению глобальных проблем безопасности ИИ.
Источник: LessWrong ↗