picolm

PicoLM是一个能够在仅配备256MB RAM的10美元开发板上运行10亿参数大语言模型的项目。它使用纯C语言编写，具有零依赖、单个约80KB大小的二进制文件以及运行时仅需45MB RAM的技术特点。特别适合于需要低成本、低功耗且完全离线运行AI助手的应用场景，如基于Raspberry Pi或RISC-V架构的嵌入式系统。通过与PicoClaw结合，PicoLM能够作为一个本地化的智能大脑，在不依赖互联网的情况下提供高效的自然语言处理能力，适用于隐私敏感环境下的自动化任务执行和个人助理服务。