
MiniCPM
OpenBMB
MiniCPM5-1B: A SOTA 1B on-device LLM, small yet powerful.
AI 简介
MiniCPM 是一个面向端侧部署的轻量级大语言模型系列,主打在1B参数规模下实现高性能与高效率的平衡。其核心采用稀疏注意力(SALA)、可训练稀疏结构、FFN层高比例稀疏化等技术,在保持下游任务性能的同时显著降低计算开销;支持百万级上下文建模,并针对边缘设备(如手机、嵌入式芯片)进行推理加速优化。适用于对延迟敏感、资源受限的本地化AI应用,如移动端智能助手、离线文档理解、边缘端实时对话系统等场景。
Jupyter Notebook
Apache License 2.09.6k
Stars
631
Forks
83
Watchers
14
Issues
Star 增长
今日0
近 7 天0
近 30 天+135
综合评分74.4
默认分支main