Проблема эпохи Slop
В условиях, когда генеративные ИИ создают бесконечные потоки низкокачественного контента (так называемого 'slop'), традиционные методы модерации становятся экономически нежизнеспособными. Полная блокировка ИИ-контента отрезает полезные инсайты, а ручная проверка — слишком дорога. Возникает вопрос: как отличить ценное исследование от мусора, когда объем данных превышает возможности человеческого восприятия?
Решение: Pay-to-Play Модерация
Raemon предлагает модель, где стоимость модерации ложится на автора. Пользователь выбирает уровень проверки, оплачивая вычислительные затраты (inference cost) на запуск моделей-модераторов. Чем выше плата, тем строже и глубже проверка. Это превращает модерацию из административной функции в рыночный механизм качества.
Иерархия уровней проверки
Система предлагает три основных уровня взаимодействия с ИИ-модерацией, которые определяют видимость контента:
| Уровень | Стоимость | Механизм проверки | Результат/Видимость |
|---|---|---|---|
| Базовый | $0 - $0.01 | Минимальная фильтрация | Контент попадает в «мусорную» зону, видимую только по запросу «показать спам» |
| Стандартный | $20 | «Суд присяжных» (Opus, ChatGPT, Kimi) | Контент проходит базовую проверку на соответствие рубрике. Разделение на «приемлемо» и «плохо» |
| Премиум | $200 - $2000 | Глубокий анализ и репликация | ИИ пытается воспроизвести работу или провести серьезный ревью. Контент попадает в топ-ленту |
Роль человека и репутация
ИИ-модерация не заменяет человека полностью. В системе сохраняется человеческий контроль: модераторы с разным уровнем репутации (включая известных экспертов вроде Eliezer Yudkowsky) могут вручную продвигать контент. Вводится концепция «фриланс-рецензирования», где эксперты устанавливают свою почасовую ставку, а их влияние растет за счет качества их оценок и социального капитала.
Почему это важно
Эксперимент Lightcone тестирует гипотезу о том, что качество информации можно монетизировать через стоимость вычислений. Если модель «Uber для пир-ревью» сработает, это может стать стандартом для научных и технических форумов будущего, где доверие к источнику напрямую зависит от оплаченного уровня верификации.
Источник: LessWrong ↗