open-compress

claw-compactor

open-compress

14-stage Fusion Pipeline for LLM token compression — reversible compression, AST-aware code analysis, intelligent content routing. Zero LLM inference cost. MIT licensed.

AI 简介

Claw Compactor 是一个专为大型语言模型(LLM)设计的令牌压缩引擎,通过14阶段的融合管道实现高效的可逆压缩、AST感知代码分析和智能内容路由。其核心技术包括AST代码分析、JSON统计采样以及基于simhash的去重等,这些技术被串联在一个不可变的数据流架构中,逐级优化输入数据,最终达到显著减少LLM推理成本的目的。此项目特别适用于需要处理大量文本数据以降低计算资源消耗的应用场景,如开发者工具、AI代理工具或任何依赖于高效上下文管理的系统。使用Python编写,并采用MIT许可证开放源码。

Python
MIT License
2.2k
Stars
210
Forks
133
Watchers
9
Issues

Star 增长

今日0
近 7 天0
近 30 天+1
综合评分59.07
默认分支main