Новая инициатива по безопасности ИИ
Base Labs, исследовательская группа, созданная компанией Baseten в начале 2026 года, объявила о запуске партнерства с Hugging Face и Goodfire. Целью сотрудничества является разработка и публикация методов обучения и мониторинга открытых моделей искусственного интеллекта. Это шаг навстречу сообществу open-source, где безопасность часто остается на втором плане по сравнению с инновациями.
Ключевые участники и их роль
В партнерстве участвуют три ключевые организации:
- Base Labs: Исследовательская группа, специализирующаяся на разработке методов обучения.
- Hugging Face: Платформа для хостинга и обмена моделями ИИ, обеспечивающая доступность инструментов.
- Goodfire: Компания, специализирующаяся на безопасности ИИ и мониторинге.
Значение для open-source сообщества
Инициатива направлена на создание стандартов, которые помогут разработчикам и исследователям создавать более безопасные открытые модели. Это особенно важно в контексте растущего числа инцидентов, связанных с уязвимостями в ИИ-системах. Публикация методов обучения и мониторинга позволит сообществу внедрять лучшие практики безопасности.
Перспективы развития
Партнерство предполагает регулярную публикацию новых методов и инструментов. Ожидается, что это поможет снизить риски, связанные с использованием открытых ИИ-моделей, и способствовать их более широкому внедрению в различных отраслях. Детали конкретных методов и инструментов будут раскрыты в будущих публикациях.
Источник: TechCrunch ↗