deeplethe

forkd

deeplethe

Fork() for AI agent microVMs. Spawn 100 children in ~100ms from a warm parent; BRANCH a live VM in ~150ms. KVM-isolated, snapshot CoW.

AI 简介

forkd 是一个面向 AI 代理(AI agent)场景的轻量级虚拟机沙箱运行时,实现类似 Unix fork() 的快速克隆能力。它基于 Firecracker 和 KVM,利用内存快照与写时复制(CoW)技术,使子微虚拟机(microVM)能在约 100ms 内从预热父 VM 分叉启动,并支持运行中分支(BRANCH)操作。核心特点是兼顾强隔离性(KVM 级)与极低启动开销,同时继承父 VM 的已加载模型、运行时状态及文件系统。适用于需要高并发、状态共享与隔离并存的 AI 代理编排场景,如 LangGraph 中的分支推理、多路径决策、提示扰动实验等。

Rust
Apache License 2.0
2.7k
Stars
208
Forks
54
Watchers
10
Issues

Star 增长

今日0
近 7 天0
近 30 天+20
综合评分60.96
默认分支main