foundry-security-spec

Foundry Security Spec是由Cisco开发的一个开放规范，旨在为代理型AI的安全评估和测试提供指导。该项目提炼了Cisco在多次迭代和部署模型中积累的关于代理型AI安全评估的经验教训，形成了一个组织中立的设计规范。它定义了八种核心代理角色、五种扩展角色以及约130项功能需求，并强调了治理与安全要求，但有意在每个组织特定决策点留白以供定制。适用于希望构建或改进自身代理型AI安全评估系统的机构或团队，尤其是那些拥有前沿语言模型并需要对其安全性进行严格验证的场景。通过遵循此规范，用户可以基于自己的技术栈实现高效且灵活的安全评估架构。