forge

Forge 是一个用于自托管的大规模语言模型（LLM）工具调用和多步骤代理工作流的 Python 框架。它通过提供一套可靠性机制，如救援解析、重试提示和响应验证等，确保 LLM 能够安全可靠地调用开发者定义的各种工具，并支持按需设定工作流程结构。项目特别适用于需要在本地部署环境下增强 LLM 与外部工具交互稳定性的场景，例如自动化任务处理或基于对话的服务开发。此外，Forge 还提供了多种使用模式，包括作为代理服务器、直接运行工作流以及作为中间件集成到现有系统中，使得用户可以根据具体需求灵活选择最适合的方式来提升应用性能。