
deepteam
confident-ai
DeepTeam is a framework to red team LLMs and AI agents.
AI 简介
DeepTeam 是一个面向大语言模型(LLM)与AI智能体的安全性红队测试框架,用于主动发现和验证系统漏洞。其核心功能包括自动化执行 jailbreak、提示注入、多轮对抗攻击等测试用例,覆盖偏见、敏感信息泄露、代码注入等典型风险,并支持本地部署的轻量级防护策略(guardrails)。框架基于 Python 构建,与 DeepEval 评估生态集成,适用于 LLM 应用开发、RAG 系统上线前安全验证及 AI 安全团队的持续红队演练。
Python
2.4k
Stars
391
Forks
0
Watchers
0
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分56.78
默认分支main