postgresml

PostgresML 是一个将机器学习和人工智能功能直接集成到 PostgreSQL 数据库中的扩展。它通过 GPU 加速支持，使用户能够在数据库内部高效地执行 ML/AI 操作，包括使用 Hugging Face 的大型语言模型、RAG 管道处理以及矢量搜索等。该项目特别适合需要在大规模数据集上进行实时预测分析的应用场景，如推荐系统、自然语言处理任务或任何需要快速响应的智能应用。其核心优势在于减少了数据迁移的成本与复杂性，同时提供了比传统 HTTP 服务方式快 8 到 40 倍的推理速度，并支持每秒数百万次事务处理及横向扩展能力。