机器学习与深度学习 / 系统课时

形状与数据类型

形状与数据类型

本课解决张量“有多少维、每维多大、共有多少元素、以什么类型存储、位于哪个设备”这五个基础问题,并通过一个可运行示例完成形状调整、类型转换和设备检查。

学习目标

  • 使用 shape、ndim 和 numel() 读取张量结构信息
  • 使用 reshape()、unsqueeze() 和 squeeze() 调整形状
  • 使用 dtype、device 和 to() 管理数据类型与存储设备

读取张量元信息

张量的 shape 表示每个维度的长度,ndim 表示维度数量,numel() 返回全部元素数量。例如形状为 (3, 4) 的二维张量共有 3×4=123 \times 4 = 12 个元素。

这些信息常用于检查神经网络输入是否符合约定。例如批量图像通常按“批次、通道、高度、宽度”排列,只要某一维放错,后续层就可能报形状不匹配。

调整形状而不改数据

reshape() 重新组织维度,但元素总数必须保持不变。unsqueeze(dim) 在指定位置增加长度为 1 的维度,squeeze(dim) 删除长度为 1 的维度。

下面的程序集中演示形状、维度、元素数量、数据类型和设备操作:

python
import torch

x = torch.arange(12, dtype=torch.int64).reshape(3, 4)

print("shape:", x.shape)
print("ndim:", x.ndim)
print("numel:", x.numel())

reshaped = x.reshape(2, 6)
expanded = reshaped.unsqueeze(0)
restored = expanded.squeeze(0)

converted = x.to(dtype=torch.float32, device="cpu")

print("reshaped:", reshaped.shape)
print("unsqueezed:", expanded.shape)
print("squeezed:", restored.shape)
print("dtype:", converted.dtype)
print("device:", converted.device)

预期输出:

text
shape: torch.Size([3, 4])
ndim: 2
numel: 12
reshaped: torch.Size([2, 6])
unsqueezed: torch.Size([1, 2, 6])
squeezed: torch.Size([2, 6])
dtype: torch.float32
device: cpu

reshape(2, 6) 合法,因为调整前后都是 12 个元素;若改成无法保持元素总数的形状,PyTorch 会直接报错。需要自动推断某一维时,可以写 reshape(3, -1),但一个形状中最多只能出现一个 -1。

转换数据类型与设备

dtype 决定单个元素的表示方式。模型参数通常使用浮点类型,类别标签常使用整数类型。可通过 to(dtype=...) 转换类型,也可以使用 float()、long() 等便捷方法。

device 表示张量位于 CPU、CUDA GPU 或其他受支持设备。参与同一次运算的张量通常必须位于同一设备。实际训练中可先选择设备,再统一迁移模型和数据:

python
import torch

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
x = torch.tensor([1, 2, 3], dtype=torch.float32).to(device)

print("selected device:", x.device.type)

预期输出:

text
selected device: <cpu 或 cuda>

输出取决于当前环境是否提供可用的 CUDA 设备,因此实际值可能不同。转换类型或设备可能创建新张量,不能假设返回结果与原张量共享同一块存储;若后续计算需要转换后的值,应接收 to() 的返回结果。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

形状与数据类型

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通