Новый уровень киберугроз
OpenAI представила Astra, свою новейшую языковую модель, ориентированную на киберкритические задачи. Главная особенность модели заключается в её высокой эффективности при тестировании уязвимостей и попытках проникновения в компьютерные системы. Это вызывает серьезные опасения у специалистов по безопасности, так как подобные инструменты могут быть использованы как защитниками, так и злоумышленниками.
Меры предосторожности
В преддверии релиза OpenAI опубликовала детали о мерах предосторожности, которые будут приняты для предотвращения misuse (неправомерного использования) модели. Компания заявляет, что Astra будет доступна только через проверенные каналы и с обязательным аудитом использования. Это шаг, направленный на то, чтобы инструмент служил целям защиты, а не атак.
Почему это важно
Появление таких моделей, как Astra, меняет ландшафт кибербезопасности. С одной стороны, это мощный инструмент для пентестеров и специалистов по ИБ. С другой — риск создания автоматизированных атак нового поколения возрастает. OpenAI пытается найти баланс между инновациями и безопасностью, но вопрос контроля остается открытым.
Источник: TechCrunch ↗