transformer-debugger

Transformer Debugger（TDB）是一个面向语言模型可解释性研究的交互式调试工具，由OpenAI超对齐团队开发，用于深入分析小型语言模型（如GPT-2 small）的行为机制。它整合稀疏自编码器与自动化神经元解释技术，支持前向传播干预、组件级归因（如注意力头、MLP神经元、自编码器隐变量）、自动激活原因生成及电路追踪。用户无需编写代码即可快速定位影响特定输出的关键模型组件及其因果路径。适用于AI安全研究、模型行为验证、神经元功能分析及可解释性教学等场景。