Кризис единой истины в Human-Centered AI
Традиционные модели машинного обучения опираются на допущение, что для любого входных данных существует единственная корректная метка (ground truth). Вариативность в аннотациях людей часто рассматривается как шум, который необходимо устранить путем агрегации (например, голосованием большинства). Однако авторы статьи "Whose Ground Truth? Embracing Ambiguity in Human-Centered AI" утверждают, что для задач, связанных с человеком, такая интерпретация ошибочна.
Многие человеческие суждения по своей природе неоднозначны. Несколько интерпретаций одного и того же ввода могут быть одновременно разумными и валидными. Попытка свести это многообразие к одной целевой метке приводит к потере значимой информации о разнообразии человеческого опыта, суждений и восприятия.
Новая парадигма: Пространство интерпретаций
Исследователи из Университета Орхуса и других институтов (Jingyao Wu, Mohammad Tariqul Islam, Per Rådberg Nagbøl и др.) предлагают сдвиг парадигмы: вместо поиска единственного ответа ИИ должен моделировать пространство интерпретаций правдоподобных человеческих суждений. Ключевая задача — научиться отличать смысловую неоднозначность (которая полезна для понимания контекста) от аннотационного шума (ошибки сбора данных).
Почему это важно для индустрии
Этот подход затрагивает весь жизненный цикл разработки ИИ:
- Представление (Representation): Модели должны уметь работать с распределениями вероятностей мнений, а не с жесткими классами.
- Обучение (Learning): Алгоритмы должны сохранять вариативность, а не усреднять её.
- Оценка (Evaluation): Метрики качества должны учитывать соответствие спектру человеческих реакций, а не только точность совпадения с «эталонным» ответом.
- Управление (Governance): Системы, принимающие решения о людях, должны быть прозрачны в отношении того, чье именно мнение они используют.
Контекст публикации
Статья принята к публикации на воркшопе NeurIPS 2026 Trustworthy AI for Good. Это позиционный документ, призывающий сообщество пересмотреть фундаментальные принципы создания этичного и человеко-ориентированного искусственного интеллекта. Игнорирование человеческой неоднозначности ведет к созданию систем, которые технически точны, но социально нечувствительны.
Источник: arXiv cs.AI ↗