textgen

TextGen 是一款开源的本地大语言模型（LLM）桌面应用，支持在个人设备上离线运行各类开源模型。核心功能包括多模态交互（图像理解）、文件内容解析（PDF/DOCX/文本）、会话分支与编辑、Notebook自由生成，以及兼容OpenAI/Anthropic协议的本地API服务；技术上支持llama.cpp（GGUF）、ExLlamaV3、Transformers等主流推理后端，并内置工具调用（Tool Calling）与MCP协议扩展能力。适用于注重数据隐私的个人研究、本地AI实验、私有知识库问答及轻量级AI应用开发场景。