
renderers
PrimeIntellect-ai
Programmable chat templates for LLM training and inference.
AI 简介
PrimeIntellect-ai/renderers 是一个用于大语言模型(LLM)训练和推理的可编程聊天模板库。其核心功能包括将模型的聊天模板转换为Python对象,实现消息到token ID的渲染、解析完成ID为结构化的助手消息,并在多轮对话中扩展而无需重新渲染历史记录。该库支持多种主流模型如Qwen、GLM等,并提供通用的默认渲染器。renderers独立于PyPI发布,兼容transformers、vLLM等多种训练和推理框架。适用于需要高效处理基于文本的对话数据集生成或增强现有对话系统的场景,特别是在强化学习训练环境中与验证器配合使用时效果显著。
Python
Apache License 2.0110
Stars
18
Forks
2
Watchers
6
Issues
Star 增长
今日0
近 7 天+3
近 30 天+29
综合评分48.24
默认分支main