UQLM: Учет неопределенности для языковых моделей — это Python-пакет для обнаружения галлюцинаций LLM на основе UQ
UQLM — это библиотека на Python для обнаружения галлюцинаций в больших языковых моделях (LLM) с помощью методов количественной оценки неопределенности.
Инструмент помогает определить, насколько уверенно LLM сгенерировала ответ, возвращая оценку достоверности от 0 до 1. Это полезно для фильтрации ошибочных или вымышленных ответов в критически важных приложениях, где важна точность данных.
👤 Кому подойдёт: Разработчики LLM-приложений, инженеры по машинному обучению, исследователи в области NLP, а также технические специалисты, внедряющие LLM в продакшн-среды с высокими требованиями к надежности.
Патч v0.6.7: сохранение NaN в семантической энтропии, коррекция порогов и шага, обновление зависимостей.
Исправления багов в SemanticEntropy, панели и генерации, а также ограничение ресурсов при выполнении кода.
Релиз v0.6.5: оптимизация производительности NLI, добавлены синхронные версии BlackBoxUQ и LLMPanel, обновлены зависимости.
Исправлена ошибка деления на ноль, улучшен парсинг и тестирование в релизе v0.6.4.