机器学习与深度学习 / 知识点

PyTorch API 函数速查

推理部署

CODE
torch.no_grad()

禁用梯度记录以减少推理显存和计算开销;适用于验证、预测和模型服务请求处理。

关闭梯度计算

torch.no_grad() 用于执行不需要反向传播的代码路径。调用后,PyTorch 不会记录计算图,可降低推理阶段的显存占用和计算开销。

调用方式

python
with torch.no_grad():
    output = model(x)

参数与作用

torch.no_grad() 是上下文管理器和装饰器,不接收参数。

项目 说明
调用形式 with torch.no_grad():
作用范围 当前上下文内的张量运算
梯度记录 禁用
常见场景 验证、推理、模型服务请求

完整示例

python
import torch
import torch.nn as nn

model = nn.Linear(4, 2)
model.eval()

x = torch.randn(1, 4)

# 推理阶段不需要保存反向传播信息
with torch.no_grad():
    output = model(x)

print(output.requires_grad)
print(output.shape)

预期结果

text
False
torch.Size([1, 2])

返回与边界

torch.no_grad() 本身不返回计算结果,只改变上下文中的梯度记录行为。退出上下文后,梯度模式恢复为进入前的状态。

训练流程中不要包裹需要计算梯度的前向传播,否则后续 backward() 无法获得对应计算图。模型验证通常还需要配合 model.eval() 关闭 Dropout、BatchNorm 等训练行为。

模型保存部署

目录与阅读设置

阅读设置

17

记录一个想法

PyTorch API 函数速查

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通