SmartFed

SmartFed 是一个资源高效的联邦微调框架，通过智能重用现有的LoRA模块来避免从零开始的昂贵训练。其核心功能包括混合秩级专家（MoRE）和弹性专家配额分配（EEQA），能够将LoRA模块分解为细粒度的轻量级专家，并根据输入语义选择性激活这些专家。此外，边缘设备仅需训练一个轻量级路由器，从而大幅减少计算、通信和能耗成本。SmartFed 适用于需要高效利用已有知识进行模型微调的场景，特别是在对资源消耗敏感的边缘计算环境中。