Достижение паритета с Frontier
Новое исследование, опубликованное организацией SaferAI, фиксирует важный момент в эволюции открытых языковых моделей. Модель GLM-5.2 от китайской компании Z.ai продемонстрировала результаты, сопоставимые с так называемыми «frontier» (передовыми) закрытыми моделями. Это означает, что пользователи с доступом к открытым весам теперь могут получить функциональность, ранее доступную только через дорогие API провайдеров вроде OpenAI или Anthropic.
Критический разрыв в безопасности
Несмотря на технологический прорыв, отчет подчеркивает существенный недостаток: GLM-5.2 не имеет тех же уровней защиты от вредоносного использования, что и ее закрытые аналоги. Разработчики закрытых моделей внедряют сложные системы фильтрации и этического контроля, которые в открытом формате часто отсутствуют или реализованы слабее. Это создает риск, что мощные модели могут быть использованы для создания вредоносного ПО, дезинформации или обхода систем безопасности.
Данные сравнения
Аналитики SaferAI выделили ключевые различия между передовыми закрытыми моделями и новой открытой разработкой Z.ai:
| Характеристика | Frontier (Закрытые модели) | Z.ai GLM-5.2 (Открытая) |
|---|---|---|
| Базовая производительность | Высокая (Лидеры рынка) | Высокая (Сопоставима) |
| Доступ к весам | Закрытый (API) | Открытый (Open-weight) |
| Уровень безопасности | Высокий (Многослойная защита) | Низкий/Средний (Отсутствуют ключевые mitigations) |
Почему это важно
Ситуация с GLM-5.2 обостряет дискуссию о регулировании ИИ. Если открытые модели продолжают догонять закрытые по качеству, но отстают в безопасности, регуляторам и разработчикам придется искать новые подходы к контролю. Без адекватных мер предосторожности демократизация доступа к мощному ИИ может привести к росту киберугроз и других рисков, связанных с misuse (нецелевым использованием) технологий.
Источник: TechCrunch ↗