circuit-tracer

circuit-tracer 是一个用于在大语言模型中识别与可视化神经电路（即特征级因果归因图）的Python工具库。它基于跨层MLP转码器（transcoder）的激活特征，计算输入token、转码器特征及误差节点对输出logit或其他特征的直接效应，支持电路发现、交互式可视化标注与特征级干预实验。技术上依赖归因图构建、稀疏图渲染和可插拔的转码器接口，兼容Gemma-2等开源模型。适用于LLM可解释性研究、机制分析、安全评估及神经元功能验证等需要细粒度电路理解的场景。