deeplethe

forkd

deeplethe

Fork() for AI agent microVMs. Spawn 100 children in ~100ms from a warm parent; BRANCH a live VM in ~150ms. KVM-isolated, snapshot CoW.

AI 简介

forkd 是一个用于快速创建微虚拟机沙箱的项目,特别适用于AI代理的分支扩展。它能够在101毫秒内从预热的父级快照中启动大量微虚拟机,这些子虚拟机通过写时复制机制继承父级的地址空间,从而避免了冷启动开销。基于Firecracker技术构建,forkd支持Python环境、JIT预热的JVM或已加载的机器学习模型等运行时环境的高效复用。该项目非常适合需要高密度、低延迟虚拟化环境的应用场景,如多实例AI推理服务、在线游戏服务器等,确保每个实例既享有KVM级别的隔离性,又能实现接近原生进程`fork(2)`的速度优势。

Rust
Apache License 2.0
2.1k
Stars
158
Forks
35
Watchers
6
Issues

Star 增长

今日0
近 7 天+700
近 30 天+1616
综合评分88.6
默认分支main