roger

RogerAI 是一个面向自托管大语言模型的去中心化市场平台，支持用户按需调用他人闲置GPU上运行的开源LLM，并按实际生成token计费。核心功能包括：基于CLI的交互式TUI终端、OpenAI兼容API代理、模型谱系追踪（带签名的token级溯源凭证）、本地语音合成/识别接入、以及无需端口暴露的反向连接节点部署机制。技术上采用Go实现，强调隐私与可验证性，适用于个人开发者快速试用多样化开源模型、研究者低成本获取异构模型服务，以及硬件持有者将空闲GPU资源变现的场景。