book

SYSTEMATIC LEARNING / 大模型原理与训练

模型蒸馏与量化部署:从压缩到上线

大模型效果达标后,显存、延迟和成本常成为上线瓶颈。课程以 PyTorch 2.x、Transformers 4.x 为基线,覆盖蒸馏、INT8/INT4、GPTQ/AWQ、QAT 与 vLLM/GGUF 部署,完成压缩训练、量化和基准验收。

8 个章节44 个课时图文学习
开始第一课

课程大纲

先看完整路径,再按章节逐步学习。

登录哪都通