Awesome-LLM-Inference

这是一个系统整理大语言模型（LLM）与多模态大模型（VLM）推理领域前沿论文及开源实现的精选资源列表。项目覆盖高效推理核心技术，包括FlashAttention系列、PagedAttention、权重量化（WINT8/4、AWQ、SmoothQuant）、并行策略（张量/流水线/上下文并行）、连续批处理等，并提供配套PDF文档与代码链接。适用于AI工程师、研究员快速了解和落地高性能LLM推理优化方案，尤其适合在GPU资源受限场景下部署低延迟、高吞吐的推理服务。