
Mixture-of-LoRA-Harness
MindLab-Research
暂无描述
AI 简介
Mixture-of-LoRA-Harness 是一个轻量级 LoRA 多适配器路由与服务框架,用于在单个 OpenAI 兼容 API 端点后动态调度多个专用 LoRA 适配器。其核心功能包括:基于提示的混合路由(结合模型生成与元数据校验)、确定性元数据守卫机制、对 SGLang 的非侵入式补丁支持,以及多轮对话中按任务隔离上下文的策略。项目不包含模型权重,专注服务编排逻辑,适用于需在推理服务层统一管理多个领域专用 LoRA(如编程、数学、医疗等)的生产级大模型微调部署场景。
Python
MIT License129
Stars
10
Forks
83
Watchers
1
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分40.12
默认分支main