
toolrush
OnlyTerp
Kill the tool-call tax: harness tool latency back below model TPS. Fast local lanes, persistent pools, session caches. Scratch lab turned real.
AI 简介
ToolRush 是一个专为 AI 代理(Agent)设计的低开销工具调用执行层,旨在显著降低工具调用延迟(即“tool-call tax”)。它通过本地快速通道、持久化进程池和会话级缓存等机制,优化文件读取、终端交互、代码搜索(rg)等高频工具操作,实测提速达5–57倍;保持与 Hermes Agent 兼容的接口与安全约束,支持 Windows/MSYS 平台。适用于工具密集型 AI 代理场景,如本地代码助手、IDE 插件、离线开发代理等对响应延迟敏感的部署。
Python
MIT License150
Stars
9
Forks
101
Watchers
1
Issues
Star 增长
今日0
近 7 天0
近 30 天+49
综合评分3
默认分支main