
StreamPI
hku-sail
[NeurIPS 2026] Official code of "StreamPI: Streaming Multimodal Temporal Modeling for Vision-Language-Action Models"
AI 简介
StreamPI 是一个面向视觉-语言-动作(VLA)模型的流式多模态时序建模框架,旨在为单帧VLA模型赋予高效、无参数增量的时序推理能力。其核心技术包括:以(视觉观测,语言指令)对为原子时序单元,采用双向注意力维持跨模态对齐、因果注意力建模跨单元时序依赖,并通过KV缓存实现历史状态复用,显著降低重复计算开销。项目基于openpi构建,额外支持JAX多节点分布式训练,提升大规模时序数据训练效率。适用于机器人操作、具身智能、实时人机交互等需长时程感知与动作规划的场景。
Python
Apache License 2.0 最后更新 2026年9月27日活跃230
Stars
6
Forks
1
Watchers
1
Issues
Star 增长
今日+5
近 7 天+80
近 30 天+80
综合评分80.86
默认分支main