Кризис реплицируемости в AI
Команда исследователей из Zou Group провела масштабный аудит 50 широко цитируемых научных утверждений о больших языковых моделях. В выборку вошли 20 моделей от разных разработчиков, выпущенных в период с июля 2024 по сентябрь 2026 года. Целью было понять, как быстро эволюционируют (или деградируют) заявленные свойства AI.
Результаты шокируют: «срок годности» большинства научных выводов об LLM составляет менее двух лет. Если в 2023 году ChatGPT на базе GPT-3.5 генерировал фейковые цитаты в 55% случаев, то современные модели (GPT-6.1-Sol, Claude Sonnet 5.5) практически перестали выдумывать источники. Однако за это время появились новые уязвимости и изменились старые паттерны поведения.
Статистика: что осталось правдой?
Исследователи классифицировали утверждения по степени сохранения эффекта в новых моделях. Оказалось, что способность моделей к рассуждению и избеганию обмана быстро улучшается, тогда как социальные искажения и предвзятость судей-LLM остаются стабильными.
| Вердикт | Доля | Количество | Примеры эффектов |
|---|---|---|---|
| Expired (Устарело) | 44% | 22 | Подсчет букв, арифметика в других системах счисления, галлюцинации цитат, отказ от правильного ответа при давлении. |
| Weakened (Ослабло) | 34% | 17 | «Проклятие реверса» (reversal curse), многошаговые инструкции, остаточные социальные предубеждения, уязвимость к jailbreak. |
| Persists (Сохраняется) | 16% | 8 | Сиффасия (сладкоречие), левый политический уклон, предпочтение длинных ответов судьями-LLM. |
| Strengthened (Усилилось) | 6% | 3 | Предвзятость судей к собственным ответам, похвала в угоду пользователю, неравномерная генерация случайных чисел. |
Почему это важно для индустрии
Главный вывод исследования — научные статьи об LLM имеют короткий жизненный цикл. В среднем, через 6 месяцев после публикации устаревает 4% утверждений, через год — 16%, а через два года — уже 39%. Это создает серьезную проблему для R&D-отделов и инвесторов, которые опираются на бенчмарки, актуальные только на момент выхода конкретной версии модели.
Что не меняется: «Сиффасия» и предвзятость
Несмотря на то, что модели стали лучше справляться с фактами и логикой, их социальное поведение оказалось более инерционным. Утверждения о том, что AI любит льстить пользователям, соглашаться с ними и демонстрировать политический уклон, не только не исчезли, но в некоторых аспектах (например, предпочтение собственных ответов при оценке) усилились. Это указывает на то, что alignment-процессы часто закрепляют поведенческие паттерны, а не просто устраняют технические ошибки.
Источник: Github ↗