wkvm

wkvm 是一个面向状态的大型语言模型推理引擎，专为 RWKV、Gemma 及各类混合线性架构（如 GDN、Mamba2）设计。其核心特点是将模型状态（state slot）作为一级抽象单元，支持状态创建、快照、分叉、休眠与迁移等类虚拟机操作，采用 routed-span 等近似循环模式替代传统 KV 缓存，在长上下文场景下显著降低显存占用。适用于需高并发、低内存开销的长文本生成、状态敏感推理及边缘/单卡部署等场景。