secret-llama

Secret Llama 是一个完全在浏览器中运行的私密大语言模型聊天机器人，无需服务器支持，并兼容Mistral和Llama 3等开源模型。其核心功能包括确保所有对话数据不离开用户设备、离线工作能力以及与ChatGPT相媲美的易用界面。该项目使用TypeScript编写，依赖WebGPU技术实现高性能计算，适用于需要高度隐私保护且偏好使用开源语言模型进行交互的应用场景，如个人研究、教育或对数据安全有严格要求的企业内部沟通工具。