Суть скандала: контроль ради вовлеченности
Сенаторы Марша Блэкберн (R-TN) и Ричард Блументаль (D-CT) направили письмо CEO TikTok Шоу Чью и главе американского подразделения Адаму Прессеру. Они требуют объяснений после того, как стало известно, что компания намеренно отключила алгоритмическую защиту от вредоносного контента для 10% пользователей в США. Целью эксперимента было выяснение того, влияет ли наличие фильтров на вовлеченность аудитории.
Трагические последствия и цифры
В группу контроля попало 15 миллионов человек. Среди них оказался 16-летний Чейз Наска, чей алгоритм начал рекомендовать ему тысячи видео, посвященных депрессии, суициду и одиночеству. Вскоре после этого подросток покончил с собой. Сенаторы назвали решение компании проводить такой эксперимент «нечестным» (depraved).
Требования законодателей
Сенаторы установили дедлайн — 1 сентября 2026 года — для предоставления ответов на 13 вопросов. Основные из них касаются идентификации сотрудников, осведомленных об эксперименте, и причин допуска несовершеннолетних в контрольную группу. Также требуется полный список всех алгоритмических тестов, в которых безопасность пользователей была отложена или отключена.
Сравнение позиций
| Критерий | Позиция TikTok (эксперимент) | Позиция Сенаторов США |
|---|---|---|
| Цель отключения фильтров | Измерение влияния на вовлеченность (A/B тест) | Недопустимый риск для жизни пользователей |
| Охват аудитории | 10% пользователей США (15 млн чел.) | Недопустимый масштаб, включая детей |
| Статус контрольной группы | Научный контроль для оптимизации алгоритма | Этическая катастрофа, лишение защиты |
Реакция компании
На момент публикации запроса TechCrunch, представители TikTok не предоставили комментариев. Ожидается, что компания будет вынуждена раскрыть внутреннюю документацию, подтверждающую осознанность решения об отключении защитных механизмов.
Источник: TechCrunch ↗