Transformer Explainer 是一个交互式可视化学习工具,旨在帮助任何人学习 GPT 等基于 Transformer 的模型是如何工作的。它由 Georgia Institute of Technology 的 Aeree Cho、Grace C. Kim、Alexander Karpekov、Alec Helbling、Jay Wang、Seongmin Lee、Benjamin Hoover 和 Polo Chau 共同创建。
用途 该工具面向希望直观理解大语言模型(LLM)Transformer 内部机制的学习者。它通过交互式可视化,把 Transformer 的内部组件和运算过程展示出来,帮助用户理解模型如何预测下一个 token。
主要能力 Transformer Explainer 会在浏览器中运行一个实时的 GPT-2 模型。用户可以输入自己的文本,并实时观察 Transformer 内部组件和操作如何协同工作以预测下一个 token。
使用方式 用户可直接通过在线地址 http://poloclub.github.io/transformer-explainer 体验,也可观看 YouTube 演示视频 https://youtu.be/TFUc41G2ikY。 如需在本地运行,需满足以下环境要求:Node.js v20 或更高版本;NPM v10 或更高版本。之后在浏览器中访问 http://localhost:5173。
适用场景 适合学习 GPT 等 Transformer 文本生成模型工作原理的个人、学生或研究者,通过交互式可视化和实验进行探索。
限制 资料未说明其他限制。该软件基于 MIT License 提供。如有问题,可提交 issue 或联系上述贡献者。