redforge-ai

RedForge AI 是一个用于评估大型语言模型应用、RAG系统、AI代理等安全性的红队测试平台。它支持范围限定的攻击活动，记录可回放的证据，并生成详细的报告供开发人员和安全审查者参考。该项目采用Python编写，具备本地及服务模式运行能力，支持插件扩展架构，便于集成不同的攻击包和报告模板。适用于需要对AI系统的安全性进行授权测试的场景，帮助团队识别并修复潜在的安全漏洞。