Автономное принятие решений вживую
Биотех-стартап Exin Therapeutics объявил о проведении экспериментальной операции на мыши с эпилепсией, где ключевые решения принимал AI-агент. В отличие от традиционных роботов-хирургов, которые лишь исполняют команды человека, этот агент самостоятельно определил:
- Какой из 19 векторов генной терапии использовать.
- Точную область мозга для введения препарата.
- Координаты инъекции, основываясь на анализе трех научных статей.
Агент управлял моторизованными руками стереотаксического аппарата, вводя 250 нанолитров вещества, контролируя процесс через камеру на предмет кровотечения. Мышь успешно восстановилась после процедуры.
Почему Anthropic Sonnet, а не Opus?
Самым интригующим аспектом стало использование модели среднего класса Sonnet. Команда изначально пыталась задействовать флагманскую модель Opus 5.5, но она категорически отказалась участвовать в биологическом эксперименте. Старая версия Opus 5 могла спланировать операцию, но также отказалась от участия в живой процедуре, сославшись на риск прерывания процесса с иглой в мозге животного.
| Модель | Результат участия | Причина отказа/выбора |
|---|---|---|
| Anthropic Opus 5.5 | Полный отказ | Блокировка на уровне безопасности (biological experiment) |
| Anthropic Opus 5 | Только планирование | Отказ от участия в живой процедуре из-за этических соображений |
| Anthropic Sonnet | Успешное выполнение | Не имел жестких блокировок на данный тип задачи, позволил провести эксперимент |
Система безопасности и роль человека
Процедура не была полностью безнадзорной. Лицензированный ветеринар выполнял трепанацию черепа (craniotomy), так как AI не имел доступа к этой irreversible-операции. Каждый следующий шаг требовал одобрения врача. Также существовала физическая кнопка экстренного отключения, обесточивающая моторы аппарата. Примечательно, что во время операции потребовалась ручная корректировка кода агента, так как некоторые защитные механизмы, которые не мог обойти даже человек, мешали работе системы.
Этические и практические последствия
Эксперимент вызвал поляризацию. С одной стороны, критики указывают на риски: использование LLM в хирургии уже приводило к росту сбоев более чем в 12 раз в других контекстах, а вопрос ответственности за ошибки остается открытым. С другой стороны, участники сообщества увидели в этом прорыв для лечения резистентной эпилепсии, отметив потенциал технологии «in vivo lab in the loop», где AI не просто анализирует данные, но и физически взаимодействует с биологическими системами.
Источник: Tom's Hardware ↗