mozilla-ai

llamafile

mozilla-ai

Distribute and run LLMs with a single file.

AI 简介

llamafile 是一个将大型语言模型(LLM)和语音识别模型打包为单文件可执行程序的工具,基于 llama.cpp 和 whisper.cpp,结合 Cosmopolitan Libc 实现跨平台原生运行。核心功能包括本地运行 LLM 推理服务、语音转文字(whisperfile),无需安装依赖、不依赖 Python 或 GPU,支持 Windows/macOS/Linux 及主流 CPU 架构。适用于离线环境下的轻量级 AI 应用部署、开发者快速原型验证、教育演示及隐私敏感场景的本地化 AI 使用。

C++
Other
25.2k
Stars
1.4k
Forks
205
Watchers
190
Issues

Star 增长

今日0
近 7 天0
近 30 天+141
综合评分79.47
默认分支main