
AgentClaimGuard
konoeph
Evidence gate for LLM agent claims - verify claims against evidence, tool results, and policies.
AI 简介
AgentClaimGuard 是一个轻量级、框架无关的运行时校验组件,用于验证大语言模型(LLM)智能体输出的关键主张是否具备充分依据。其核心功能是依据用户定义的策略,检查主张是否被提供的证据、工具执行结果或合规规则所支持,并返回结构化校验结果(如 blocked/allowed)及原因(如 tool_required/insufficient_evidence)。项目采用策略驱动设计,不替代事实判断,而是强制执行“有据才可声明”的原则;支持 LangChain、LangGraph 等主流 Agent 框架集成,可通过 FastAPI 部署为独立服务。适用于对可信度与合规性要求较高的 LLM 应用场景,如金融问答、医疗辅助、政务咨询等需责任追溯的生产环境。
Python
Apache License 2.052
Stars
5
Forks
4
Watchers
1
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分42.33
默认分支main