LEARN / TUTORIALS

系统教程

从基础概念到实践应用,按章节逐步建立知识体系。

当前方向 · 7 门教程

大模型原理与训练

Hugging Face Transformers 实战

模型能在 Notebook 里跑起来,并不等于能稳定训练和上线。课程以文本与生成模型为主线,覆盖 Hub 与 Auto API、Tokenizer、Datasets、Trainer、PEFT/LoRA、量化、评估和服务部署,把公开预训练模型变成可复现、可微调、可压测并能上线交付的模型服务。

大模型原理与训练

大模型原理:从 Transformer 到 GPT

调用大模型不难,难的是解释模型为何这样生成。内容从词元和注意力出发,拆解 Transformer、GPT 自回归目标、预训练、对齐与 KV Cache,并用微型 GPT 复现链路,使学习者能从张量和概率分布解释模型行为,判断训练与推理取舍。

大模型原理与训练

nanoGPT 从零实现 GPT:训练到生成

直接调用大模型 API 很难解释注意力、损失与训练稳定性为何这样工作。课程沿 nanoGPT 的极简路线,从数据编码、自注意力和 Transformer Block 开始亲手组装 GPT,再补齐训练循环、混合精度、多卡训练、检查点、GPT-2 权重加载与采样,最终能独立训练、评估和排查一个小型语言模型。

大模型原理与训练

Transformer 原理与实践

本课程面向具备 Python、线性代数和基础深度学习知识的开发者,从序列建模问题出发,逐步讲解注意力机制、位置编码、编码器与解码器结构、训练优化和生成策略。课程结合 PyTorch 手写实现、预训练模型微调、评估部署与故障排查,帮助学习者建立从数学原理到工程落地的完整知识体系。

大模型原理与训练

大模型推理部署与加速:从单卡到集群

大模型上线后,显存、首 Token 延迟、吞吐和多卡通信直接决定成本与体验。课程覆盖显存估算、量化、KV Cache、连续批处理、主流推理引擎、多卡多机、压测与 Kubernetes 部署,学完能完成容量评估、引擎选型和生产调优。

大模型原理与训练

模型蒸馏与量化部署:从压缩到上线

大模型效果达标后,显存、延迟和成本常成为上线瓶颈。课程以 PyTorch 2.x、Transformers 4.x 为基线,覆盖蒸馏、INT8/INT4、GPTQ/AWQ、QAT 与 vLLM/GGUF 部署,完成压缩训练、量化和基准验收。

登录哪都通