DALLE-pytorch

这是一个基于PyTorch实现的DALL-E文本生成图像模型，复现了OpenAI提出的多模态Transformer架构。核心功能包括文本编码、离散VAE图像token化、自回归图像生成，以及集成CLIP进行生成结果排序。技术特点涵盖可配置的Transformer层数、支持DeepSpeed加速训练、稀疏注意力优化及轻量级模型适配（如2层小型DALL-E）。适用于学术研究、小规模领域定制（如风景、鸟类、服装等垂直数据集）的文本到图像生成任务，尤其适合资源受限环境下的模型探索与微调。