telos-sdk

TELOS SDK 是一个缓存感知的提示协议和网关，用于可移植代理上下文管理。它通过避免重复计算相同的系统提示来大幅减少令牌计费，据称能够节省高达90%的成本。该SDK支持跨多种AI模型（如Anthropic、OpenAI等）运行统一的中间表示(IR)，确保在不同平台上的一致性与高效性。适用于需要频繁调用语言模型且对成本敏感的应用场景，比如大规模对话系统或基于AI的服务。采用Python开发，当前处于Beta阶段，并遵循Apache License 2.0许可协议。