Суть проблемы: чьи интересы обслуживает прозрачность?
Транспарентность стала ключевым принципом управления ИИ, однако единого понимания того, что именно она означает для разных групп, не существует. Исследование, опубликованное в arXiv (2026), анализирует, как конечные пользователи, создатели моделей и политики воспринимают необходимость раскрытия информации. Авторы используют метод «интерпретативной гибкости», показывая, что прозрачность не является универсальным благом, а конструируется ситуативно в зависимости от роли и контекста задачи.
Методология и ключевые цифры
Для получения данных авторы провели глобальный опрос, охвативший 400 участников из трех ключевых групп: конечные пользователи (end-users), разработчики ИИ (builders) и политики (policymakers). Количественные данные были дополнены структурированными фокус-группами с пользователями, чтобы выявить потребности самой уязвимой группы, чьи интересы часто игнорируются.
Разрыв в восприятии: данные опроса
Несмотря на то, что все три группы сходятся во мнении, что прозрачность должна обеспечивать точность и конфиденциальность, существует огромный разрыв между ожидаемым и фактическим уровнем раскрытия информации. Разработчики и политики считают текущие практики эффективными, тогда как пользователи ощущают дефицит информации.
| Группа респондентов | Доля, считающая прозрачность удовлетворительной | Характер восприятия |
|---|---|---|
| Конечные пользователи (End-users) | 28% | Чувствуют недостаток информации, считают практики неадекватными |
| Разработчики (Builders) | 53% | Считают, что текущие стандарты отражают их усилия |
| Политики (Policymakers) | 49% | Делят мнение с разработчиками о достаточности мер |
Почему это важно для индустрии
Результаты показывают, что «сила» (power) определяет, какие функции прозрачности строятся и для кого. Текущий подход, основанный на статичной документации и простом раскрытии факта использования ИИ (AI disclosure), не работает для широкой аудитории. Исследование призывает перейти к «плюралистическим инфраструктурам прозрачности», которые адаптируются под разные сценарии использования и потребности конкретных пользователей, а не предлагают решение «для всех сразу».
Источник: arXiv cs.AI ↗