antoinezambelli

forge

antoinezambelli

A Python framework for self-hosted LLM tool-calling and multi-step agentic workflows

AI 简介

Forge 是一个面向自托管大语言模型(LLM)的可靠性增强框架,专注于提升工具调用(tool-calling)与多步智能体工作流的鲁棒性。它提供轻量级 guardrails(如响应解析修复、自动重试引导、结构化校验),支持零配置启用或按需约束(如必选步骤、前置条件、终止工具)。兼容 Ollama、llama.cpp、Llamafile 及 Anthropic 等后端,可通过代理服务器、WorkflowRunner 或中间件三种方式集成。适用于本地部署场景下对工具调用准确性、容错性要求较高的智能体应用,如自动化运维、私有数据查询、企业级 RAG 工作流等。

Python
MIT License
2.2k
Stars
163
Forks
13
Watchers
2
Issues

Star 增长

今日0
近 7 天0
近 30 天+23
综合评分60.94
默认分支main