telos-sdk

TELOS SDK 是一个面向大模型智能体的缓存感知型提示协议与网关，旨在降低多轮对话场景下的 token 消耗与推理成本。其核心通过标准化的上下文表示（TELOS IR）实现跨厂商模型（如 Anthropic、OpenAI、vLLM 等）的上下文可移植性，并利用 prompt 缓存机制显著减少重复系统提示的重传开销，在实测 6 轮对话中实现 92.3% 的绝对费用节省。适用于需长期维护会话状态、高并发调用 LLM 的生产级智能体服务，尤其适合对成本敏感且需多后端兼容的 Agent 构建场景。