Проблема: конфликт целей в медицине
Традиционные алгоритмы распределения органов часто фокусируются на узких метриках, игнорируя этические аспекты. В случае с пересадкой сердца система должна балансировать между выживаемостью после операции, смертностью в списке ожидания, географической доступностью и справедливостью. Старые подходы заставляли людей сравнивать решения алгоритма (кто получил орган, а кто нет), что смешивало средства с целями.
Решение: двухфазный алгоритм извлечения предпочтений
Команда во главе с Ицаем Зильберштейном (Itai Zilberstein) и Туомасом Сандхольмом (Tuomas Sandholm) разработала новый метод для линейных функций полезности. Алгоритм работает в два этапа:
- Фаза 1: Использует попарные сравнения для быстрого сужения пространства возможных весов атрибутов, отсекая доминируемые регионы.
- Фаза 2: Доказуемо сходится к истинной функции полезности пользователя, обеспечивая точную настройку политики.
Результаты: от 0.54 к 0.95
Ключевая метрика эффективности — конкурентное отношение (competitive ratio) к оптимуму, который мог бы быть достигнут при идеальном знании предпочтений. Текущая политика (status quo) справляется лишь наполовину лучше случайного выбора, тогда как новый метод практически достигает идеала.
| Метрика / Политика | Конкурентное отношение | Комментарий |
|---|---|---|
| Статус-кво (текущая политика) | 0.54 | Существенное отклонение от человеческих ценностей |
| Предложенный алгоритм | 0.95 | Практически оптимальное выравнивание |
Значение для отрасли
Исследование демонстрирует, что ИИ может быть не просто инструментом оптимизации ресурсов, но и механизмом демократизации этических решений. Позволяя сообществу формировать функцию полезности, мы получаем системы, которые работают не «против» людей, а в строгом соответствии с их ценностными ориентирами.
Источник: arXiv cs.AI ↗