机器学习与深度学习 / 系统课时
运行第一个张量程序
运行第一个张量程序
这一课用一个结果完全可预测的脚本完成张量创建、逐元素运算、矩阵乘法和标量提取,并通过形状、数据类型与设备信息检查程序是否真的按预期执行,而不是只确认“没有报错”。
学习目标
- 使用
torch.tensor创建二维浮点张量,并读取shape、dtype与device。 - 区分逐元素加法、逐元素乘法和矩阵乘法
@的结果。 - 把张量结果转换为 Python 标量,并用确定数值验证整个执行流程。
创建并检查第一个张量
新建 first_tensor.py,写入下面完整程序。示例使用显式 dtype=torch.float32,避免整数张量参与后续均值计算时产生类型问题。
import torch
a = torch.tensor(
[[1.0, 2.0], [3.0, 4.0]],
dtype=torch.float32,
)
print("shape =", a.shape)
print("dtype =", a.dtype)
print("device =", a.device)
print("sum =", a.sum().item())预期输出
shape = torch.Size([2, 2])
dtype = torch.float32
device = cpu
sum = 10.0运行该脚本时,看到 torch.Size([2, 2]) 说明这是 2 行 2 列张量;默认创建在 CPU 上。a.sum() 的结果仍是单元素张量,调用 .item() 后才得到普通 Python 数值 10.0。
区分逐元素运算与矩阵乘法
把脚本扩展为下面版本。+ 和 * 都按对应位置计算,@ 则执行矩阵乘法;对于 2×2 张量,a @ b 的输出仍是 2×2。
import torch
a = torch.tensor([[1.0, 2.0], [3.0, 4.0]])
b = torch.tensor([[2.0, 0.0], [1.0, 2.0]])
added = a + b
multiplied = a * b
matmul = a @ b
print("a + b =")
print(added)
print("a * b =")
print(multiplied)
print("a @ b =")
print(matmul)
print("mean =", matmul.mean().item())预期输出
a + b =
tensor([[3., 2.],
[4., 6.]])
a * b =
tensor([[2., 0.],
[3., 8.]])
a @ b =
tensor([[ 4., 4.],
[10., 8.]])
mean = 6.5其中矩阵乘法第一行第一列来自 1×2 + 2×1 = 4,而逐元素乘法同一位置只是 1×2 = 2。看到这两个结果不同,就能确认自己没有把 * 当成线性代数里的矩阵乘法。
用形状检查运算是否合法
矩阵乘法要求左张量最后一维与右张量倒数第二维相等。对二维张量,可以直接检查 a.shape[1] == b.shape[0]。例如 (2, 3) @ (3, 4) 合法,结果形状是 (2, 4);而 (2, 3) @ (2, 4) 不合法。
实际项目里,在进入模型层之前先打印或断言形状更容易定位问题。可使用 assert x.ndim == 2 检查二维输入,用 assert x.shape[1] == 3 固定特征数。若错误发生在 @ 或 torch.matmul,先核对参与运算的两个 shape,不要先尝试随意 reshape。
处理数据类型与设备边界
PyTorch 张量的 dtype 和 device 都会参与运算约束。深度学习输入通常使用 torch.float32;标签则常见 torch.int64。创建张量时显式写 dtype,能减少由 Python 整数或 NumPy 默认类型带来的隐式差异。
如果后续使用 GPU,常见做法是先确定设备,再把模型和参与计算的张量都移动到同一设备。当前第一程序保留在 CPU,验证更稳定;只有在确实需要加速时再引入 tensor.to(device)。出现 “Expected all tensors to be on the same device” 一类错误时,逐个打印相关对象的 .device,把输入、参数和新建常量统一到同一设备。
运行第一个张量程序时,最有价值的验收不是“程序结束”,而是同时确认:形状符合预期、数据类型明确、运算结果能手算复核、设备与当前环境一致。这样后面进入自动求导和模型训练时,张量错误会更容易定位。