InstinctRazor

InstinctRazor 是一个面向混合专家（MoE）大语言模型的无训练后量化（PTQ）框架，专注于 sub-4-bit 低比特压缩，特别针对 Qwen3.5-122B-A10B 这类前沿 MoE 架构。其核心技术包括专家级 3-bit 量化与骨干网络 4-bit 量化协同策略、基于 firing pattern 的关键路径保护机制，以及可复现的 clip-based 量化流程；无需微调即可在知识、推理、多语言及多模态（MMMU）任务上接近原始 BF16 模型性能。适用于 GPU 资源受限场景下的 MoE 模型部署与推理加速，尤其适合单卡 80GB GPU 或 CPU+小显卡专家卸载架构。