mm-probe-kit

MM-Probe-Kit 是一个轻量、可定制的多模态大语言模型（MLLM）可解释性分析工具包，用于探查视觉-语言模型内部的注意力机制、隐状态、跨模态对齐及因果影响路径。它通过统一的钩子管理器支持主流模型（如LLaVA、Qwen-VL、BLIP-2等），提供标准化的层间注意力提取、文本-图像对齐度计算、注意力传播与激活干预等功能。适用于多模态模型机理研究、模态交互分析、模型诊断与改进等科研与工程场景。