safegate

SafeGate 是一个轻量级的运行时安全防护工具，专为多模态大语言模型（LLM）的输入输出设计。其核心功能在于通过几行代码和三个小型分类器，在数据到达生产环境前拦截最常见的故障模式，包括隐藏在图像中的恶意提示、跨模态清洗请求以及看似无害但实际有害的响应。SafeGate 支持文本、图片和音频的安全检查，并能根据预设策略决定是否允许数据通过或需要重写输出。它非常适合于那些希望增强现有LLM应用安全性，同时保持部署简便性的开发者或团队使用。