neteroster

CodexCont

neteroster

Continue-thinking middleware for Codex / OpenAI Responses-compatible APIs.

AI 简介

CodexCont 是一个轻量级中间件代理,用于自动检测并续写被截断的代码生成模型推理响应。它基于 Starlette 构建,通过识别 OpenAI Codex 及兼容 API(如 Responses API)中特定的推理令牌截断模式(reasoning_tokens ≡ -2 mod 518),在后台静默发起续写请求,并将多次流式响应合并为单个语义连贯的 SSE 响应。支持透明透传非匹配流量、缓冲暂定输出、安全续写上限控制及多种续写策略(如注释式提示)。适用于需稳定获取完整推理链的编程智能体(coding agent)、代码补全服务或 LLM 工具调用链路中对响应完整性要求较高的场景。

Python
MIT License
316
Stars
27
Forks
53
Watchers
1
Issues

Star 增长

今日0
近 7 天0
近 30 天+2
综合评分44.54
默认分支main