机器学习与深度学习 / 知识点
PyTorch API 函数速查
推理部署
CODE
torch.no_grad()禁用梯度记录以减少推理显存和计算开销;适用于验证、预测和模型服务请求处理。
关闭梯度计算
torch.no_grad() 用于执行不需要反向传播的代码路径。调用后,PyTorch 不会记录计算图,可降低推理阶段的显存占用和计算开销。
调用方式
python
with torch.no_grad():
output = model(x)参数与作用
torch.no_grad() 是上下文管理器和装饰器,不接收参数。
| 项目 | 说明 |
|---|---|
| 调用形式 | with torch.no_grad(): |
| 作用范围 | 当前上下文内的张量运算 |
| 梯度记录 | 禁用 |
| 常见场景 | 验证、推理、模型服务请求 |
完整示例
python
import torch
import torch.nn as nn
model = nn.Linear(4, 2)
model.eval()
x = torch.randn(1, 4)
# 推理阶段不需要保存反向传播信息
with torch.no_grad():
output = model(x)
print(output.requires_grad)
print(output.shape)预期结果
text
False
torch.Size([1, 2])返回与边界
torch.no_grad() 本身不返回计算结果,只改变上下文中的梯度记录行为。退出上下文后,梯度模式恢复为进入前的状态。
训练流程中不要包裹需要计算梯度的前向传播,否则后续 backward() 无法获得对应计算图。模型验证通常还需要配合 model.eval() 关闭 Dropout、BatchNorm 等训练行为。
模型保存部署