guardrails-ai

guardrails

guardrails-ai

Adding guardrails to large language models.

AI 简介

Guardrails 是一个用于为大语言模型(LLM)添加安全与可靠性约束的 Python 框架。它支持在 LLM 输入/输出环节部署可组合的验证器(validators),实现对幻觉、敏感信息泄露、格式违规等风险的检测与修复,并原生支持结构化数据(如 JSON、XML)的可靠生成。基于声明式配置和运行时拦截机制,无需修改模型本身。适用于需要合规性保障、数据格式强约束或生产环境 LLM 集成的场景,如企业级 AI 应用、API 封装服务及 RAG 系统。

Python
Apache License 2.0
7.1k
Stars
639
Forks
41
Watchers
28
Issues

Star 增长

今日0
近 7 天0
近 30 天+46
综合评分69.02
默认分支main