frckeepit

llm-production-toolkit

frckeepit

Production-ready toolkit for evaluating, monitoring, and ensuring safety of LLM deployments. Hallucination detection, bias evaluation, feedback loops, and production readiness assessment.

AI 简介

这是一个面向大语言模型(LLM)生产部署的工程化工具包,提供可落地的评估、监控与安全保障能力。核心功能包括幻觉检测(基于嵌入相似性与自然语言推理)、多维度偏见评估(覆盖性别、种族、年龄等)、用户反馈闭环收集与分析、生产就绪度量化评估(9项指标打分),以及合规要求映射。采用模块化设计,支持轻量集成与CLI/REST双接口,适配各类托管或自建LLM服务场景,尤其适用于需要满足AI治理、风控审计与持续运维要求的企业级应用。

Python
MIT License
98
Stars
9
Forks
8
Watchers
0
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分43
默认分支main