localai-org

privacy-filter.cpp

localai-org

OpenAI's privacy filter NER model architecture implemented in a minimal C++/GGML runtime

AI 简介

这是一个基于GGML的轻量级C++实现,用于运行OpenAI隐私过滤器系列PII识别模型,支持多语言和Nemotron变体。核心功能是精准识别文本中的个人身份信息(PII)实体并返回UTF-8字节级偏移位置,具备零依赖、低内存占用、跨平台(CPU/GPU/Raspberry Pi)高效推理能力。相比Hugging Face Transformers,在长文本处理(如132k tokens)和边缘设备(如Pi 5)上显著提升吞吐与稳定性,适用于数据脱敏、合规审查、日志清洗等需本地化、低延迟PII检测的生产场景。

C++
MIT License
276
Stars
15
Forks
3
Watchers
1
Issues

Star 增长

今日0
近 7 天0
近 30 天+2
综合评分43.81
默认分支master