
structured-cot
andthattoo
Structured Chain-of-Thought
AI 简介
这是一个面向大语言模型推理过程的语法约束型思维链(Chain-of-Thought)优化框架,通过GBNF语法在推理时强制结构化思考格式(如GOAL/APPROACH/EDGE),无需训练或微调即可显著压缩思考token量并提升任务准确率。核心特点是零训练、纯推理端语法控制、支持多种结构化模板(如FSM_PLAN)、兼容llama-cpp-python等主流推理后端。适用于代码生成、算法求解等需要高可靠性与低推理开销的场景,尤其在HumanEval+和LiveCodeBench等编程评测基准上验证了其压缩效率与稳定性。
Python
219
Stars
15
Forks
5
Watchers
3
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分40.61
默认分支main