MindLab-Research

Mixture-of-LoRA-Harness

MindLab-Research

暂无描述

AI 简介

Mixture-of-LoRA-Harness 是一个轻量级 LoRA 多适配器路由与服务框架,用于在单个 OpenAI 兼容 API 端点后动态调度多个专用 LoRA 适配器。其核心功能包括:基于提示的混合路由(结合模型生成与元数据校验)、确定性元数据守卫机制、对 SGLang 的非侵入式补丁支持,以及多轮对话中按任务隔离上下文的策略。项目不包含模型权重,专注服务编排逻辑,适用于需在推理服务层统一管理多个领域专用 LoRA(如编程、数学、医疗等)的生产级大模型微调部署场景。

Python
MIT License
129
Stars
10
Forks
83
Watchers
1
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分40.12
默认分支main