Emmimal

control-layer

Emmimal

A production-grade control layer that sits between your application logic and any LLM — input validation, schema enforcement, circuit breaking, targeted retry, and audit logging in one composable pipeline.

AI 简介

这是一个面向生产环境的LLM调用控制层,作为应用逻辑与大语言模型之间的中间件,提供输入验证、结构化响应约束、熔断保护、智能重试、审计日志等能力。基于Python实现,采用可组合的流水线架构,支持注入防护、token预算管理、硬超时控制、JSON Schema校验、按失败类型定向提示词修复及多级降级路由。适用于需要高可靠性、可观测性和合规性保障的LLM服务集成场景,如企业级AI助手、自动化报告生成、金融/医疗领域结构化内容生成等。

Python
MIT License
62
Stars
9
Forks
56
Watchers
0
Issues

Star 增长

今日0
近 7 天0
近 30 天+1
综合评分43.1
默认分支main