NextLat

NextLat 是一个用于构建紧凑世界模型的自监督学习框架，核心是通过预测潜在空间中的下一个隐状态（而非原始观测或token）来学习高效表征。项目基于Transformer架构，支持序列建模、世界模型训练与多任务预训练，技术特点包括隐状态预测损失设计、支持FSDP分布式训练、内置多种基线算法（如GPT、MTP、BST）对比，并在Manhattan Taxi、TinyStories和FineWeb-Edu等数据集上验证有效性。适用于需要轻量级、可解释性更强的世界模型研究场景，尤其适合机器人控制、模拟环境建模及低维状态推理等任务。