
sqz
ojuschugh1
Compress LLM context to save tokens and reduce costs
AI 简介
sqz 是一个用于压缩大型语言模型(LLM)上下文以节省令牌并降低成本的工具。它通过在命令输出到达LLM之前对其进行压缩来实现这一目标,特别擅长于去重处理,即当同一文件在一个会话中被多次读取时,sqz仅发送一次该文件,并为后续读取提供一个简短的引用,从而显著减少令牌使用量。项目采用Rust编写,提供单个二进制文件且无需配置,适用于需要频繁处理大量文本数据的AI应用场景,如文件密集型任务、开发者工具等,能够有效提升效率同时降低运行成本。
Rust
Other349
Stars
21
Forks
5
Watchers
7
Issues
Star 增长
今日0
近 7 天+19
近 30 天+132
综合评分63.53
默认分支main