poloclub/transformer-explainer

Что это за инструмент

Интерактивный визуализатор архитектуры Transformer, работающий прямо в браузере с живой моделью GPT-2.

Зачем нужен

Позволяет наглядно изучать, как внутренние компоненты и операции трансформера взаимодействуют для предсказания следующих токенов. Полезен для глубокого понимания механики работы LLM через эксперименты с собственным текстом в реальном времени.

Что можно реализовать

• Обучение принципам работы LLM Transformer через интерактивную визуализацию
• Эксперименты с вводом текста и наблюдением за процессом предсказания токенов
• Исследование внутренних операций модели в реальном времени
• Визуализация работы attention-механизмов и других компонентов архитектуры

Ключевые возможности

• Запуск живой модели GPT-2 непосредственно в веб-браузере
• Интерактивная визуализация внутренних компонентов и операций
• Возможность ввода собственного текста для наблюдения за предсказаниями
• Открытый исходный код под лицензией MIT
• Научное обоснование (публикация в CHI 2026)

👤 Кому подойдёт: Исследователи, разработчики и студенты, изучающие архитектуру LLM и трансформеров