lemonade

Lemonade 是一个本地AI服务器，使用户能够在自己的GPU和NPU上运行优化后的大型语言模型。该项目的核心功能包括通过标准的OpenAI、Anthropic和Ollama API为用户提供聊天、编码、语音及图像生成等服务，同时支持作为嵌入式组件集成到其他应用程序中以实现多模态本地AI能力。特别适合需要在保持数据隐私的同时利用最新AI技术进行开发或研究的个人开发者与小型团队使用。项目采用C++编写，并得到了AMD工程师的支持以确保在Ryzen AI、Radeon以及Strix Halo PC上的最佳性能表现。