Foundry-Local

Foundry Local 是一个端到端的本地AI解决方案，用于构建完全在用户设备上运行的应用程序。其核心功能包括轻量级运行时（约20 MB），支持自动硬件加速、智能模型管理和OpenAI兼容API。项目提供了C#、JavaScript、Python和Rust的原生SDK，并且拥有一个经过优化的高质量模型目录，涵盖聊天补全和音频转录等功能。这些模型经过量化和压缩处理，以达到最佳的质量与性能平衡。Foundry Local 适用于需要在无网络环境下提供即时响应的应用场景，如离线聊天机器人或语音识别应用，确保用户数据始终保留在设备上，无需担心网络延迟或云服务费用。