计算机视觉 / 系统课时
执行前向推理
执行前向推理
前向推理的核心流程只有三步:把预处理后的张量交给 Net、指定它作为网络输入、再从目标输出层读取结果。本节用 OpenCV DNN 的 Python API 演示单输出与多输出两种调用方式,并说明如何验证返回张量是否符合模型预期。
学习目标
- 使用
setInput()设置网络输入张量,并调用forward()执行推理 - 根据输出层数量选择单输出或多输出读取方式
- 通过输出层名称和张量形状快速验证推理结果
从输入张量到输出张量
OpenCV DNN 的 Net 对象不会自动完成图像预处理。通常先用 cv2.dnn.blobFromImage() 把图像缩放到模型要求的输入尺寸,再按训练约定设置缩放系数、通道顺序和裁剪方式。生成的 blob 一般是 NCHW 布局,即批次、通道、高度、宽度。
net.setInput(blob) 只负责把张量绑定到网络输入;真正的计算发生在 net.forward()。如果模型只有一个最终输出,直接调用无参 forward() 最简洁;如果模型暴露多个未连接输出层,应先取得这些层名,再一次性请求多个结果。
执行单输出与多输出推理
下面的示例假设已经准备好 ONNX 模型和一张输入图像。把 <PATH> 替换为实际路径,并根据模型修改 size、scalefactor 等预处理参数。
import cv2
model_path = "<PATH>/model.onnx"
image_path = "<PATH>/input.jpg"
net = cv2.dnn.readNet(model_path)
image = cv2.imread(image_path)
if image is None:
raise FileNotFoundError(image_path)
# 预处理参数必须与模型训练或导出配置保持一致。
blob = cv2.dnn.blobFromImage(
image,
scalefactor=1.0 / 255.0,
size=(640, 640),
mean=(0, 0, 0),
swapRB=True,
crop=False,
)
net.setInput(blob)
output_names = net.getUnconnectedOutLayersNames()
print("输出层:", output_names)
if len(output_names) == 1:
output = net.forward()
print("单输出 shape:", output.shape)
else:
outputs = net.forward(output_names)
for index, output in enumerate(outputs):
print(f"输出 {index}: shape={output.shape}")预期输出
输出层: <VALUE>
单输出 shape: <VALUE>如果模型有多个输出层,最后一行会变为多条 输出 <ID>: shape=<VALUE>。具体层名和维度由模型结构决定,因此这里使用动态占位符而不固定数值。
什么时候要指定输出层
无参 forward() 返回网络默认的最终输出,适合单头分类、单输出回归等模型。对于检测、分割或姿态估计模型,一个网络可能同时产生框、类别、置信度或不同尺度特征,此时应调用 forward(output_names),避免只拿到其中一个结果。
还可以把特定层名传给 forward(),只读取需要的中间或最终输出。不过层名必须来自模型实际结构,优先通过 getUnconnectedOutLayersNames() 或模型文档确认,不要凭经验硬编码。
验证推理是否真的正确
第一层验证看形状:批次维、候选数量、类别数或特征图尺寸应与模型说明一致。第二层验证看数值范围,例如分类模型的 logits 不一定已经归一化,检测模型的坐标也可能是绝对像素或归一化值。第三层才是业务语义:把输出解析成类别、边界框或掩码后,确认结果与输入图像相符。
如果 forward() 报维度错误,优先检查输入尺寸、通道数和布局;如果能运行但结果异常,优先检查缩放系数、均值、RGB/BGR 顺序以及输出解析规则。前向传播本身通常很直接,真正需要严格对齐的是模型的输入与输出契约。