Lite-OPD

Lite-OPD 是一个面向研究场景的轻量级策略内蒸馏（On-Policy Distillation）训练框架，支持 Qwen、Llama 和 Gemma 等主流开源大模型。其核心特点是单进程同步架构，学生模型实时生成 rollout，教师模型同步打分，通过精确的全词表 KL 或 JSD 损失进行策略分布对齐；采用零拷贝权重共享与分块反向传播，显著降低显存峰值，单卡即可完成完整训练流程。框架设计极简，无插件/回调抽象，核心逻辑集中于单一文件，便于深度定制与复现实验。适用于学术研究中对蒸馏过程、损失函数或训练动态需精细控制的低资源实验环境。