guardrails

Guardrails 是一个用于为大型语言模型添加防护措施的 Python 框架。其核心功能包括运行输入/输出防护，以检测、量化并减轻特定类型的风险，并帮助生成结构化数据。技术特点上，Guardrails 提供了预构建的风险度量（称为“验证器”），这些验证器可以组合成输入和输出防护，从而拦截语言模型的输入和输出。适用于需要提高基于 LLM 的应用程序可靠性和安全性的场景，如金融、医疗等对数据准确性和安全性要求较高的领域。