glm-5.2-sm120

这是一个面向高性能GPU集群的开源大语言模型推理部署方案，专为在4卡NVIDIA RTX PRO 6000 Blackwell（SM120架构）上高效运行GLM-5.2-NVFP4-REAP-469B MoE模型而设计。项目提供一键式Docker启动脚本，集成vLLM推理引擎，支持250K超长上下文、DeepSeek稀疏注意力、MTP推测解码、FP8 KV缓存及工具调用能力，并默认启用思维链推理输出。适用于需低延迟、高并发、长文本处理能力的私有化AI服务场景，如企业级智能助手、复杂逻辑推理API或研究型LLM沙盒环境。