BlockPilot

BlockPilot 是一个面向大语言模型（LLM）推理优化的块级接受长度分析与预测工具。它通过系统性地测试不同输入块大小下的模型接受长度分布，生成结构化JSON数据，并支持基于预测结果映射实际块值，从而辅助研究者评估和优化LLM的自回归解码行为。核心功能包括多数据集基准测试、块尺寸扫描、隐藏状态控制开关及预测结果与原始块数据的动态映射；技术上采用轻量Python脚本编排，依赖PyTorch模型加载与JSON I/O。适用于LLM推理效率分析、推测解码（speculative decoding）策略验证及接受率建模等研究场景。