trotsky1997

OpenFugu

trotsky1997

Open reimplementation of Sakana Fugu — the 'one model to command them all' LLM orchestrator. Read → run → train → serve.

AI 简介

OpenFugu 是一个开源的 LLM 编排器(orchestrator)逆向工程实现,复现 Sakana AI 提出的 Fugu 架构——即通过轻量级协调模型动态路由查询至多个前沿大语言模型并聚合结果。其核心包含四个可运行阶段:阅读架构文档、运行验证(支持离线/在线路由)、自主训练协调模型(TRINITY/Conductor)、提供 OpenAI 兼容 API 服务。技术上采用策略路由而非单一大模型,依赖 litellm 接入异构模型池,支持 CMA-ES 和 GRPO 等轻量训练方法。适用于需低成本集成多模型能力、追求查询级动态调度效果的研究与中小规模推理服务场景。

Python
Apache License 2.0
397
Stars
73
Forks
7
Watchers
2
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分45.61
默认分支main