borhen68

TokenTamer

borhen68

A drop-in proxy that compresses bloated code context in real-time, cutting LLM API costs by 50–80% without losing what the model actually needs to know.

AI 简介

TokenTamer 是一个轻量级代理中间件,用于实时压缩 AI 编程代理(如 Aider、Cursor)向大语言模型(LLM)发送的冗余代码上下文,从而显著降低 API 调用 token 成本(实测节省 50–80%)。其核心能力是基于 AST 解析源码,将非编辑相关的文件内容(如函数体)替换为结构化骨架(保留类名、函数签名、导入语句等关键元信息),同时支持工具调用感知的智能压缩——对重复读取的旧版本文件自动骨架化,而最新读取版本保持完整。适用于本地开发环境中的 LLM 编程代理场景,尤其适合长对话、多轮文件重读的代码理解与编辑任务。

Python
MIT License
123
Stars
20
Forks
3
Watchers
1
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分3.97
默认分支main