
context-engine
Emmimal
A pure-Python context management layer for LLM systems — retrieval, re-ranking, memory decay, and token-budget enforcement in one pipeline.
AI 简介
context-engine 是一个纯 Python 实现的 LLM 上下文管理中间层,用于在真实 token 限制下动态优化输入上下文。它集成检索、重排序、记忆衰减、上下文压缩与 token 预算分配五大能力,支持关键词/TF-IDF/混合检索、标签加权重排序、指数衰减记忆机制、查询感知的抽取式压缩,以及按系统/历史/文档分槽的 token 预算控制。适用于 RAG 系统、对话式 AI、长上下文推理等需精细控制 LLM 输入内容与长度的生产场景,不依赖深度学习框架,核心仅需 Python 标准库与 numpy。
Python
MIT License193
Stars
29
Forks
5
Watchers
0
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分44.43
默认分支main