tinygrad

tinygrad 是一个轻量级的深度学习框架，旨在提供介于 PyTorch 和 micrograd 之间的功能。它具备自动微分的张量库、中间表示和编译器以融合和降低内核、即时编译及图执行等功能，并且包含了用于实际训练的神经网络层、优化器和数据集。tinygrad 的设计灵感来源于 PyTorch 的易用性、JAX 的函数式转换与基于 IR 的自动微分以及 TVM 的调度和代码生成技术，但保持了小巧和可修改性。此项目非常适合需要快速原型开发或希望深入了解并自定义深度学习编译流程的研究人员和开发者使用。