model2vec

Model2Vec 是一个将句子嵌入模型（Sentence Transformer）压缩为轻量级静态嵌入模型的技术框架。它通过模型蒸馏与结构优化，在保持较高语义质量的前提下，将模型体积缩减至原模型的1/50、推理速度提升最高达500倍；支持直接加载Hugging Face上预训练的高效小模型（如potion-base-32M），提供与主流Sentence Transformers一致的API接口。适用于对延迟和资源敏感的生产场景，如边缘设备部署、实时检索系统、RAG中的嵌入服务及大规模文本聚类等任务。