YoungZ365

SOD

YoungZ365

PyTorch-based open-source code for paper "SOD: Step-wise On-policy Distillation for Small Language Model Agents"

AI 简介

SOD是一个面向小型语言模型智能体的步级在线策略蒸馏开源框架,旨在解决工具增强型推理中因错误工具调用引发的级联误差与分布偏移问题。其核心是自适应步级加权机制,依据学生与教师行为对齐程度动态抑制或恢复token级监督信号,复用已有log-prob计算,几乎不增加额外开销。项目基于PyTorch实现,提供预训练模型与Agent RL数据集支持,适用于需要高效压缩大模型能力至小模型、并在数学、科学及代码等复杂推理任务中部署轻量级智能体的研究与工程场景。

Python
Apache License 2.0
159
Stars
10
Forks
3
Watchers
9
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分43.12
默认分支main