机器学习与深度学习 / 系统课时
形状与数据类型
形状与数据类型
本课解决张量“有多少维、每维多大、共有多少元素、以什么类型存储、位于哪个设备”这五个基础问题,并通过一个可运行示例完成形状调整、类型转换和设备检查。
学习目标
- 使用
shape、ndim和numel()读取张量结构信息 - 使用
reshape()、unsqueeze()和squeeze()调整形状 - 使用
dtype、device和to()管理数据类型与存储设备
读取张量元信息
张量的 shape 表示每个维度的长度,ndim 表示维度数量,numel() 返回全部元素数量。例如形状为 (3, 4) 的二维张量共有 个元素。
这些信息常用于检查神经网络输入是否符合约定。例如批量图像通常按“批次、通道、高度、宽度”排列,只要某一维放错,后续层就可能报形状不匹配。
调整形状而不改数据
reshape() 重新组织维度,但元素总数必须保持不变。unsqueeze(dim) 在指定位置增加长度为 1 的维度,squeeze(dim) 删除长度为 1 的维度。
下面的程序集中演示形状、维度、元素数量、数据类型和设备操作:
python
import torch
x = torch.arange(12, dtype=torch.int64).reshape(3, 4)
print("shape:", x.shape)
print("ndim:", x.ndim)
print("numel:", x.numel())
reshaped = x.reshape(2, 6)
expanded = reshaped.unsqueeze(0)
restored = expanded.squeeze(0)
converted = x.to(dtype=torch.float32, device="cpu")
print("reshaped:", reshaped.shape)
print("unsqueezed:", expanded.shape)
print("squeezed:", restored.shape)
print("dtype:", converted.dtype)
print("device:", converted.device)预期输出:
text
shape: torch.Size([3, 4])
ndim: 2
numel: 12
reshaped: torch.Size([2, 6])
unsqueezed: torch.Size([1, 2, 6])
squeezed: torch.Size([2, 6])
dtype: torch.float32
device: cpureshape(2, 6) 合法,因为调整前后都是 12 个元素;若改成无法保持元素总数的形状,PyTorch 会直接报错。需要自动推断某一维时,可以写 reshape(3, -1),但一个形状中最多只能出现一个 -1。
转换数据类型与设备
dtype 决定单个元素的表示方式。模型参数通常使用浮点类型,类别标签常使用整数类型。可通过 to(dtype=...) 转换类型,也可以使用 float()、long() 等便捷方法。
device 表示张量位于 CPU、CUDA GPU 或其他受支持设备。参与同一次运算的张量通常必须位于同一设备。实际训练中可先选择设备,再统一迁移模型和数据:
python
import torch
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
x = torch.tensor([1, 2, 3], dtype=torch.float32).to(device)
print("selected device:", x.device.type)预期输出:
text
selected device: <cpu 或 cuda>输出取决于当前环境是否提供可用的 CUDA 设备,因此实际值可能不同。转换类型或设备可能创建新张量,不能假设返回结果与原张量共享同一块存储;若后续计算需要转换后的值,应接收 to() 的返回结果。
按自己的节奏,确认真正理解。