OpenBioLink/ThoughtSource

Центральный открытый ресурс с данными и инструментами для рассуждений chain-of-thought в LLM. Разработано в исследовательской группе Samwald: https://samwald.info/

Данные⭐ 1 016Jupyter Notebookпоследний релиз: v1.0.0
Открыть на GitHub ↗

Что это за инструмент

ThoughtSource — это открытый фреймворк и хаб для работы с датасетами и инструментами, связанными с рассуждениями (chain-of-thought) в больших языковых моделях.

Зачем нужен

Инструмент стандартизирует доступ к данным для обучения и оценки способности LLM к логическому выводу, объединяя датасеты в едином формате Hugging Face Datasets. Он полезен для исследователей и разработчиков, которым нужны качественные цепочки рассуждений (как человеческие, так и сгенерированные ИИ) для повышения надежности и точности AI-систем.

Что можно реализовать

  • Обучение моделей технике chain-of-thought reasoning на стандартизированных наборах данных
  • Сравнительный анализ эффективности различных подходов к генерации рассуждений (few-shot, zero-shot)
  • Разработка и тестирование систем для научной и медицинской сферы, требующих высокой точности выводов
  • Исследование обобщаемости промптов для рассуждений на новых моделях и датасетах

Ключевые возможности

  • Единый интерфейс (dataloaders) для доступа к разнородным датасетам в формате Hugging Face Datasets
  • Наличие как человеческих (gold standard), так и ИИ-сгенерированных цепочек рассужений
  • Широкий охват тем: от общего вопроса-ответа до узкоспециализированных медицинских и научных задач
  • Постобработка исходных данных для создания более связных и когерентных логических цепей
  • Поддержка ключевых научных датасетов: MedQA, OpenBookQA, EntailmentBank, CommonsenseQA

👤 Кому подойдёт: исследователи в области NLP, разработчики LLM, специалисты по данным, работающие с задачами логического вывода и объяснимости AI

Релизы

v1.0.0minor
🕐 38 мес назад · релиз на GitHub ↗

Выпуск ThoughtSource_33 с 60 цепочками рассуждений, новыми датасетами MedQA/MMLU и улучшением работы с цепочками команд.

  • Added: Добавлена коллекция ThoughtSource_33, загружаемая через Collection.load_thoughtsource_33(), содержащая по 60 цепочек рассуждений для каждого элемента.
  • Added: Появилась возможность создания связанных (chained) команд.
  • Added: Добавлена функция фильтрации уже созданных цепочек рассуждений (chain-of-thoughts).
  • Added: Включены новые датасеты: шесть медицинских подмножеств MMLU и версия MedQA с открытыми вопросами.
  • Added: Добавлена опция чата для модели gpt.
OpenBioLink/ThoughtSource — GitHub-трекер AIKraft | AIKraft