Новый рывок: алгоритмы ИИ дешевеют в 3–10× каждый год

<div> <p>Вы когда-нибудь задумывались, насколько быстро становятся эффективнее алгоритмы, которые «запускают» ИИ? Новое исследование от команды MIT Futuretech показывает: каждый год мы получаем в 3–10 раз более экономичные системы—то есть цена работы ИИ падает почти как по закону Мура, но в масштабах месяцев.</p> <h2>Почему это важно?</h2> <p>Инференс—процесс, когда модель отвечает на ваши запросы—часто остаётся в тени громких новостей о тренировке ИИ. Зато именно он определяет, насколько быстро и дёшево мы сможем запускать чат-боты, переводчики и другие сервисы на базе нейросетей.</p> <h2>Методика без лишнего шума</h2> <p>Авторы отбросили маркетинговые наценки и смотрели на цены самых дешёвых открытых моделей. Сравнивали стоимость запуска одного «запроса» (3 входных токена к одному выходному). Важно: все данные взяты на современном оборудовании—чтобы увидеть реальный прогресс алгоритмов, а не «качество дата-центров».</p> <h2>Что показало исследование?</h2> <p>• По «жирному» методу (с группировкой по качеству) — скачок эффективности в 7–28 раз в год, в среднем ≈12×. • По «тонкому» методу (регрессия с поправкой на качество) — более скромно: около 3–4× в год. • Интересный нюанс: входные токены дешевеют почти вдвое быстрее, чем выходные—это важно для задач, где ответы «весомее» запросов.</p> <h2>Как это работает внутри?</h2> <p>Причины двух видов. Во‑первых, сами сети стали «худеть»—уменьшилось число активных параметров (дистилляция, спарсити, новые архитектуры). Во‑вторых, оптимизации на уровне работы с данными (кеширование, предсказательный выбор, групповые запросы) снижали затраты на каждый токен.</p> <h2>Что дальше?</h2> <p>Тренды всё ещё бодрые, но кое-где уже заметна усталость роста: кривые «все модели» и «открытые» начали сходиться. Похоже, классические приёмы—дистилляция, квантизация, Mixture of Experts—дают всё меньше отдачи. Может, на смену придут новые схемы: не‑трансформеры, параллельные генераторы или гибриды.</p> <p>Так или иначе, даже консервативная оценка в 3× в год означает: в течение пары лет запуск «убийцы GPT» станет в десятки раз дешевле. Интересно, увидим ли мы «новую Муру» для ИИ?</p> </div>