Открытые модели как стратегический приоритет
Телекоммуникационные компании все чаще строят свои AI-стратегии на базе open-source решений. Согласно последнему отчету NVIDIA «State of AI in Telecommunications», 89% респондентов указали, что открытые модели и программное обеспечение имеют важное значение для их AI-стратегии. Это решение выходит за рамки простого снижения затрат: операторы получают возможность доверять, контролировать и настраивать ИИ для критически важных задач, от автономных сетей до обслуживания клиентов.
Пять стратегических преимуществ
Использование открытых моделей дает телеком-операторам пять ключевых преимуществ:
- Доступ к передовым технологиям: возможность использовать модели уровня frontier по более низкой цене, оставляя закрытые модели для задач с максимальной добавленной стоимостью.
- Конкурентоспособность: независимые бенчмарки (например, Artificial Analysis Intelligence Index v4.3.2) показывают, что ведущие открытые модели становятся все более конкурентоспособными в задачах рассуждения, кодинга и агентных рабочих процессов.
- Кастомизация: открытые веса и рецепты обучения позволяют операторам дообучать модели на собственных данных (сети, клиенты, отраслевая специфика).
- Доверие и безопасность: полная видимость артефактов модели позволяет адаптировать их под регуляторные требования и бизнес-политики.
- Гибкость развертывания: возможность оптимизировать модели для работы в публичных облаках, на частной инфраструктуре и на edge-устройствах.
Практика: SoftBank и NVIDIA Nemotron
Ярким примером использования открытых моделей является SoftBank Corp. Компания использует семейство моделей NVIDIA Nemotron в качестве основы для создания собственной SoftBank Large Telecom Model. По словам Раджива Кудли (Rajeev Koodli), старшего вице-президента SB Telecom America, это позволяет применять накопленные знания о сетях и операционном опыте компании для развития AI в области управления сетями и проектирования.
Кроме того, NVIDIA анонсировала модель Nemotron 3 Large Telco Model (LTM) объемом 30 миллиардов параметров. Она была дообучена компанией AdaptKey на открытых телеком-датасетах для повышения точности в специфических задачах, таких как конфигурация сетей и триаж инцидентов у клиентов. NVIDIA также опубликовала полный рецепт (recipe) дообучения с использованием библиотек NVIDIA NeMo.
Масштабирование в продакшн
Для AT&T выбор моделей — это вопрос операционной гибкости. Энди Маркус (Andy Markus), главный директор по данным и ИИ AT&T, отметил, что будущее AI заключается не в выборе одной модели, а в интеллектуальном сопоставлении каждой рабочей нагрузки оптимальной комбинацией производительности, стоимости и контроля. Открытые модели являются ключевым строительным блоком для достижения этой цели.
Источник: NVIDIA Blog ↗