book

SYSTEMATIC LEARNING / 大模型原理与训练

大模型推理部署与加速:从单卡到集群

大模型上线后,显存、首 Token 延迟、吞吐和多卡通信直接决定成本与体验。课程覆盖显存估算、量化、KV Cache、连续批处理、主流推理引擎、多卡多机、压测与 Kubernetes 部署,学完能完成容量评估、引擎选型和生产调优。

8 个章节47 个课时图文学习
开始第一课

课程大纲

先看完整路径,再按章节逐步学习。

登录哪都通