Infrasys-AI

AIInfra

Infrasys-AI

AIInfra(AI 基础设施)指AI系统从底层芯片等硬件,到上层软件栈支持AI大模型训练和推理。

AI 简介

AIInfra 是一个面向大模型全栈基础设施的开源学习课程,系统讲解从AI芯片、计算集群、通信存储到分布式训练与推理的软硬件协同优化技术。核心内容涵盖大模型系统架构、Scaling Law原理、AI集群运维、高速网络组网、云原生容器化部署(K8s/Docker)、Transformer分布式训练与推理加速算法等,并结合实践案例与可运行Notebook。项目适合AI系统工程师、大模型平台开发者及高校研究人员学习大模型底层基础设施设计与工程实现。

Jupyter Notebook
Apache License 2.0
7.6k
Stars
976
Forks
65
Watchers
12
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分64.97
默认分支main