Цифровой разрыв: от дизайна к физическому воплощению
Искусственный интеллект кардинально меняет рабочий процесс от цифрового проектирования к физическому производству. Исследователи выделяют четыре ключевых технологических драйвера:
- Общие LLM: интегрируют научные данные, планируют эксперименты и анализируют результаты.
- Биологические фундаментальные модели: предсказывают, оптимизируют и генерируют белки, гены и геномные последовательности.
- Агентные системы: координируют многоэтапные исследовательские задачи.
- Автоматизированные лаборатории: частично замыкают цикл «проектирование-создание-тестирование-обучение».
Однако риск биобезопасности зависит не только от возможностей ИИ, но и от экспертизы пользователя, его намерений и доступа к лабораторному оборудованию. Текущие данные показывают, что ИИ-усиление (AI uplift) в основном затрагивает цифровые задачи, а не физические.
Сравнение возможностей: In-silico против Wet-lab
Ключевой вывод исследования заключается в разрыве между цифровыми успехами и физическими ограничениями. Фронтальные системы ИИ уже превзошли экспертов в виртуальных тестах, но реальные лабораторные условия остаются серьезным барьером.
| Критерий | In-silico (Виртуальные тесты) | Wet-lab (Физические эксперименты) |
|---|---|---|
| Результат ИИ | Превзошли экспертный базис | Ограничены тактильным знанием (tacit knowledge) |
| Основной барьер | Отсутствует (чистая логика/данные) | Физическое исполнение и нюансы работы |
| Уклонение от скрининга | Успешное обход | Недостаточно данных для оценки |
Векторы угроз и проблема выравнивания
Авторы описывают полный путь биологической угрозы, который становится доступнее благодаря ИИ: от сбора информации и дизайна биологических агентов до закупки, синтеза, тестирования, масштабирования и потенциального высвобождения. Особая проблема заключается в том, что техники выравнивания (alignment), используемые для общих моделей, плохо переносятся на биологические модели. Это создает риск того, что вредоносные способности могут сохраняться в системе, несмотря на попытки их устранения.
Защита в глубину (Defense-in-Depth)
Вместо изолированных мер предлагается концепция «защиты в глубину», которая связывает пороги возможностей ИИ с пропорциональной ответственностью всех участников экосистемы биологического ИИ. Ключевую роль в этом процессе должна играть интерпретируемость (interpretability) — аудит, позволяющий убедиться, что опасные функции действительно удалены из модели, а не просто скрыты.
Источник: arXiv cs.AI ↗