iFixAi
ifixai-ai
Catch your AI's mistakes and blind spots before your customers or regulators do. iFixAi runs 45 inspections, 32 graded core plus 13 extended for frontier risks like sabotage, sandbagging, and oversight evasion. It returns a letter grade in under 5 minutes. Industry and model agnostic.
AI 简介
iFixAi 是一个开源的 AI 对齐性诊断工具，用于在部署前识别大语言模型或智能体在行为一致性、安全性和合规性方面的潜在偏差与风险。它支持 32 项核心检查（含幻觉检测、提示注入防御、越权规避等），按五大对齐风险维度评分并输出可复现的字母等级报告，全程可在 5 分钟内完成。项目采用 fixture 驱动设计，兼容任意模型与行业场景，强调 CI/CD 中的持续漂移监测与版本间横向对比，而非绝对安全认证。适用于 AI 工程团队、合规部门及模型评估人员开展内部治理与监管准备。
Python
Apache License 2.01.3k
Stars
161
Forks
13
Watchers
1
Issues
Star 增长
今日0
近 7 天0
近 30 天+704
综合评分64.63
默认分支main