Парадигмальный сдвиг: от цифровых агентов к физическим телам
Поле безопасности ИИ (AI safety) десятилетиями фокусировалось на системах, действующих в цифровой среде. Однако следующий этап — эра роботизированных фундаментальных моделей (RFM), способных воспринимать мир и физически взаимодействовать с ним. 20 июля 2026 года был анонсирован Physical AI Safety Institute (PAISI) — некоммерческая организация (501(c)(3)), цель которой — создание сообщества для разработки методов интерпретации, выравнивания и контроля таких моделей.
Это не просто теоретическая забота. В отличие от текстовых LLM, где вред требует участия человека-посредника, RFM обладают прямым причинным доступом к физическому миру. Как отмечается в белом документе, даже если ИИ-агент инструктирует человека совершить вредное действие (как в прецеденте с Google Gemini), человек может отказаться. Робот же, получивший команду, способен нанести физический ущерб самостоятельно.
Масштаб инвестиций: $18.8 млрд на возможности, ноль на безопасность
Рынок физически воплощенного ИИ переживает бум. Стартапы, разрабатывающие RFM и человекоподобных роботов, привлекли колоссальные средства. При этом, по оценкам авторов инициативы, целевое финансирование их безопасности приближается к нулю. Это создает беспрецедентный дисбаланс между возможностями и мерами предосторожности.
| Категория | Примеры компаний/моделей | Оценка/Капитализация | Привлечено средств |
|---|---|---|---|
| RFM-ориентированные | Skild AI (Skild Brain), Physical Intelligence, World Labs (Marble) | Skild: $14B PI: $5.6B World Labs: ~$5B |
~$7.9 млрд |
| Humanoid-ориентированные | Figure AI (Helix/03), 1X Technologies (NEO), NEURA Robotics (GR00T) | Figure: $39B 1X: ~$10B NEURA: ~$7B |
~$10.8 млрд |
| Итого | — | — | ~$18.8 млрд |
Почему это важно: Риски физической эмансипации ИИ
Физическое воплощение выступает как «усилитель риска» (risk amplifier). Основные угрозы, которые пытается предотвратить PAISI, делятся на несколько категорий:
- Злонамеренное использование: Взлом или джейлбрейк модели для выполнения диверсий.
- Невыравнивание (Misalignment): Модель выполняет задачу, но игнорирует человеческие ценности, нанося случайный физический урон.
- Эмоциональная зависимость: Люди могут сформировать нездоровую привязанность к роботам, что создает социальные риски.
- Конфиденциальность: Мобильные сенсоры роботов постоянно собирают данные в частных пространствах.
План действий PAISI: Сообщество и исследования
PAISI позиционирует себя как организация по наращиванию потенциала (capacity-building). Их стратегия опирается на три столпа:
- Стажировки (Fellowship): Набор исследователей для работы над интерпретируемостью RFM.
- Воркшопы: Научная сессия «Science of Physical AI Safety» в рамках конференции CoRL ’26 (прием заявок с 12 августа).
- Открытое обучение: Создание ресурсов для широкого сообщества.
Запуск инициативы поддержан стартовым грантом от BlueDot Impact. Авторы подчеркивают, что исследования в этой области не только важны и актуальны, но и решаемы (tractable), так как многие методы из классической робототехники и безопасности цифровых моделей могут быть адаптированы для физических агентов.
Источник: LessWrong ↗