cloudthinker-ai

eager-tools

cloudthinker-ai

Eager tool dispatch for streaming LLM agents — dispatch tools the moment their JSON block seals, not after the message ends.

AI 简介

eager-tools 是一个用于流式处理大语言模型代理工具调用的Python库,能够在JSON块封闭时立即调度工具,而非等到消息结束。其核心功能是通过在生成过程中并行执行工具调用来减少代理的墙钟延迟,从而提高整体响应速度。该库支持生产级部署,并且与现代框架如langchain.agents.create_agent、OpenAI Agents SDK等兼容。适用于需要快速响应和高效处理多个工具调用的应用场景,特别是在对话系统、自动化助手等领域,能够显著提升用户体验。

Python
MIT License
44
Stars
4
Forks
42
Watchers
0
Issues

Star 增长

今日0
近 7 天+1
近 30 天+2
综合评分42.8
默认分支main