RoboECC

RoboECC 是一个面向视觉-语言-动作（VLA）模型的边缘-云协同部署框架，旨在优化跨设备推理效率。其核心功能包括：基于Roofline模型的模型-硬件联合分段搜索，支持细粒度LLaMA解码器内部切分；结合LSTM带宽预测与双阈值策略的在线动态边界调整；以及参数共享池机制以降低切分切换开销。技术特点涵盖多因素建模（模型结构、硬件异构性、云负载、激活尺寸、网络波动）和低开销实时适配（约2.6%调整开销）。适用于资源受限的具身智能系统（如机器人）在动态网络环境下运行大型VLA模型的场景。