
control-layer
Emmimal
A production-grade control layer that sits between your application logic and any LLM — input validation, schema enforcement, circuit breaking, targeted retry, and audit logging in one composable pipeline.
AI 简介
Emmimal/control-layer 是一个生产级别的控制层,位于应用程序逻辑和任何大语言模型(LLM)之间,提供输入验证、模式强制、断路器、定向重试和审计日志等功能。项目采用Python编写,支持包括输入防护、电路断路器、令牌预算管理、提示构建、响应验证、重试机制及回退路由等核心组件,确保与LLM交互时的安全性和稳定性。特别适用于需要对生成式AI应用进行严格控制的场景,如企业级软件开发中集成复杂的语言模型服务时,能够有效避免潜在的安全风险并提高系统的健壮性。MIT许可证下开放源代码,当前已获得56个星标。
Python
MIT License59
Stars
9
Forks
56
Watchers
0
Issues
Star 增长
今日0
近 7 天0
近 30 天+2
综合评分43.2
默认分支main