Subtext

Subtext 是一个用于实时观测大语言模型内部推理过程的可视化工具。它基于 Jacobian lens 方法，在模型处理用户输入和生成回复的每个 token 步骤中，持续将各层残差流激活映射至最终词表空间，以可视化模型“正在思考但尚未说出”的词汇倾向（即 J-space 工作区状态）。项目支持本地运行、实时流式渲染，技术上依赖 PyTorch 和 Transformers 库，预集成 Qwen3.5-4B 模型及专用 lens。适用于 LLM 可解释性研究、模型行为调试、教学演示及机制分析等需要细粒度追踪模型内部动态的场景。