
renderers
PrimeIntellect-ai
Programmable chat templates for LLM training and inference.
AI 简介
这是一个用于大语言模型训练与推理的可编程聊天模板渲染器库,将不同模型的chat template封装为统一Python接口。核心功能包括:将对话消息序列渲染为token ID列表、解析模型生成的token ID为结构化响应(含内容、推理链、工具调用)、支持多轮对话增量扩展(bridge_to_next_turn)而不重复渲染历史。技术特点包括细粒度token溯源(message_indices)、结构化响应解析、跨框架兼容性(支持transformers/vLLM/SGLang等),并内置主流国产模型(Qwen3、GLM、Kimi等)的专用渲染器。适用于强化学习训练、工具调用场景、多轮对话状态管理及需精确控制token级loss mask的监督微调任务。
Python
Apache License 2.0125
Stars
19
Forks
2
Watchers
6
Issues
Star 增长
今日0
近 7 天0
近 30 天+5
综合评分44.4
默认分支main