leyten

shard

leyten

Pipeline-parallel LLM inference across GPUs on separate machines.

Python
Apache License 2.0
185
Stars
17
Forks
1
Watchers
0
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分39.61
默认分支master

暂无 README 内容

项目可能尚未同步完成,请稍后查看