hku-sail

StreamPI

hku-sail

[NeurIPS 2026] Official code of "StreamPI: Streaming Multimodal Temporal Modeling for Vision-Language-Action Models"

AI 简介

StreamPI 是一个面向视觉-语言-动作(VLA)模型的流式多模态时序建模框架,旨在为单帧VLA模型赋予高效、无参数增量的时序推理能力。其核心技术包括:以(视觉观测,语言指令)对为原子时序单元,采用双向注意力维持跨模态对齐、因果注意力建模跨单元时序依赖,并通过KV缓存实现历史状态复用,显著降低重复计算开销。项目基于openpi构建,额外支持JAX多节点分布式训练,提升大规模时序数据训练效率。适用于机器人操作、具身智能、实时人机交互等需长时程感知与动作规划的场景。

Python
Apache License 2.0 最后更新 2026年9月27日活跃
230
Stars
6
Forks
1
Watchers
1
Issues

Star 增长

今日+5
近 7 天+80
近 30 天+80
综合评分80.86
默认分支main