FastChat

FastChat 是一个用于训练、服务和评估大型语言模型的开放平台。它支持Vicuna等先进模型的训练与评测代码，并提供了一个分布式多模型服务系统，该系统配备了网页界面及兼容OpenAI的RESTful API。FastChat还支撑了Chatbot Arena项目，能够处理超过10百万次聊天请求，涉及70多个大型语言模型，并通过收集人类投票来构建在线LLM Elo排行榜。此项目特别适合需要对不同语言模型进行比较测试或希望快速部署基于大模型的应用场景。使用Python编写，遵循Apache License 2.0许可协议。