THUDM/ChatGLM3

Что это за инструмент

ChatGLM3 — это серия открытых двуязычных (китайский/английский) больших языковых моделей от Zhipu AI и Tsinghua University, оптимизированных для диалогов и сложных задач.

Зачем нужен

Модель предназначена для интеграции в приложения, требующие понимания текста, генерации кода и работы с инструментами. Она полезна разработчикам, которым нужна легковесная (6B параметров) и эффективная LLM с поддержкой Function Call и Agent-сценариев.

Что можно реализовать

• Многооборотные диалоги с учетом контекста (до 128k токенов)
• Вызов внешних функций и API через механизм Function Call
• Выполнение кода в режиме Code Interpreter
• Автоматизация задач через Agent-архитектуру
• Обработка длинных документов (32k/128k контекстное окно)

Ключевые возможности

• Нативная поддержка Function Call, Code Interpreter и Agent
• Сильные показатели в математике, коде и логике для моделей <10B
• Гибкая архитектура с вариантами контекста 8k, 32k и 128k
• Широкая экосистема ускорения: TensorRT-LLM, OpenVINO, chatglm.cpp
• Бесплатное коммерческое использование после регистрации

👤 Кому подойдёт: разработчики, исследователи, стартапы, внедряющие LLM в продукты