FastChat

FastChat 是一个面向大语言模型（LLM）对话系统的开源平台，支持模型训练、高效服务部署与多维度评估。其核心功能包括：Vicuna 等开源对话模型的微调与推理代码、分布式多模型服务架构（含 Web UI 和 OpenAI 兼容 API）、以及 MT-Bench 多轮评测与 Chatbot Arena 人类偏好投票驱动的 LLM 排行榜。项目已支撑日均百万级请求的在线竞技平台，适用于学术研究、模型对比评测、私有化对话服务部署及 LLM 能力基准测试等场景。