Emmimal

context-engine

Emmimal

A pure-Python context management layer for LLM systems — retrieval, re-ranking, memory decay, and token-budget enforcement in one pipeline.

AI 简介

context-engine 是一个专为大语言模型系统设计的纯 Python 上下文管理层,集成了检索、重新排序、记忆衰减和令牌预算控制等功能。其核心功能包括通过多种方式(如关键词、TF-IDF或混合模式)进行文档检索,并根据领域相关性对结果进行重排序;使用指数衰减等机制自动调整文档的重要性并去除重复项;以及基于查询感知的压缩策略来优化输入文本长度以适应实际的令牌限制。适用于需要在有限的令牌预算内高效处理大量外部知识场景下的对话式AI应用开发,比如客服机器人、智能助手等领域。

Python
MIT License
191
Stars
28
Forks
5
Watchers
0
Issues

Star 增长

今日0
近 7 天0
近 30 天+6
综合评分44.99
默认分支main