fauxpilot

FauxPilot 是一个开源的本地化代码补全服务，旨在替代 GitHub Copilot 的后端服务器。它基于 SalesForce CodeGen 和 GPT-J 等开源大语言模型，通过 NVIDIA Triton 推理服务器与 FasterTransformer 加速后端实现高效、低延迟的代码生成。支持多 GPU 分布式加载，提供兼容 OpenAI API 和 Copilot 插件协议的 REST/gRPC 接口。适用于对数据隐私敏感、需离线运行或定制化代码辅助能力的开发团队与个人开发者，尤其适合企业内网环境或合规要求严格的软件开发场景。