tokdiet
agiwhitelist
Local streaming reverse proxy between AI coding agents (Claude Code, Cursor, Codex) and model APIs (Anthropic, OpenAI, Gemini, MiniMax). Meters every token + USD cost, compacts bloated context to cut pay-per-token API spend, and runs shadow-eval to prove quality held. ccusage-style metering + live local dashboard.
AI 简介
tokdiet 是一个本地运行的 AI 模型 API 反向代理网关，专为 AI 编程代理（如 Claude Code、Cursor）设计，用于拦截并优化其与 Anthropic、OpenAI、Gemini 等模型 API 的通信。核心功能包括：实时逐 token 计费计量（支持 USD 成本换算）、智能上下文压缩（非盲目裁剪，保留关键语义并支持冷数据可恢复分页）、以及内置 shadow-eval 机制——通过 66 任务 A/B 对比实测验证压缩后输出质量不下降。适用于需严格控制 LLM 调用成本且不可牺牲响应质量的本地开发、AI 工程化及代理编排场景。
TypeScript
MIT License37
Stars
2
Forks
63
Watchers
0
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分41.43
默认分支main