机器学习与深度学习 / 系统课时
改变张量形状
改变张量形状
深度学习代码里经常需要把同一批数值改成另一种维度组织方式,例如把特征展平、补上批次轴,或把通道轴移动到模型要求的位置。本课用 tf.reshape、tf.squeeze、tf.expand_dims 和 tf.transpose 完成这些操作,并重点区分“只改形状”和“重新排列轴”。
学习目标
- 使用
tf.reshape在元素总数不变的前提下重塑张量。 - 使用
tf.squeeze与tf.expand_dims删除或插入长度为 1 的轴。 - 使用
tf.transpose按perm重排轴,并验证变换后的形状与数据顺序。
reshape 先检查元素总数
tf.reshape 不会增删元素,只会用新的形状解释同一组值。输入有 24 个元素时,可以重塑为 (2, 3, 4)、(6, 4) 或 (3, 8),但不能变成 (5, 5)。目标形状里可以使用一个 -1,让 TensorFlow 根据总元素数自动推导这一维。
import tensorflow as tf
x = tf.range(24)
a = tf.reshape(x, [2, 3, 4])
b = tf.reshape(a, [6, -1])
print("a:", a.shape.as_list())
print("b:", b.shape.as_list())
print("first row:", b[0].numpy().tolist())预期输出:
a: [2, 3, 4]
b: [6, 4]
first row: [0, 1, 2, 3]工程里可先用 tf.size(x) 检查总元素数,再决定目标形状。若输入批次大小不固定,常见写法是 tf.reshape(features, [tf.shape(features)[0], -1]),这样第一维继续跟随实际批次大小。
squeeze 与 expand_dims 只处理长度为 1 的轴
squeeze 用于删除长度为 1 的维度,expand_dims 则在指定位置插入一个长度为 1 的维度。它们都不会改变元素数量,但会改变张量秩。指定 axis 使用 tf.squeeze 时,该轴长度必须确实为 1,否则会报错。
import tensorflow as tf
x = tf.constant([[[1], [2], [3]]]) # shape = (1, 3, 1)
a = tf.squeeze(x, axis=0)
b = tf.squeeze(x)
c = tf.expand_dims(b, axis=0)
d = tf.expand_dims(b, axis=-1)
print("x:", x.shape.as_list())
print("a:", a.shape.as_list())
print("b:", b.shape.as_list())
print("c:", c.shape.as_list())
print("d:", d.shape.as_list())预期输出:
x: [1, 3, 1]
a: [3, 1]
b: [3]
c: [1, 3]
d: [3, 1]如果下游层明确要求 (batch, features),一维向量 (features,) 通常应先用 tf.expand_dims(x, axis=0) 补成批次大小为 1 的二维张量,而不是依赖模型内部自动猜测。
transpose 改的是轴顺序
tf.transpose 与 tf.reshape 的目的不同:reshape 改变形状解释,transpose 按 perm 重新排列轴。对于形状 (2, 3, 4) 的张量,perm=[0, 2, 1] 表示保留第 0 轴,把原第 2 轴移到中间,因此输出形状变为 (2, 4, 3)。

import tensorflow as tf
x = tf.reshape(tf.range(24), [2, 3, 4])
y = tf.transpose(x, perm=[0, 2, 1])
print("x:", x.shape.as_list())
print("y:", y.shape.as_list())
print(y[0].numpy().tolist())预期输出:
x: [2, 3, 4]
y: [2, 4, 3]
[[0, 4, 8], [1, 5, 9], [2, 6, 10], [3, 7, 11]]图像模型里最常见的轴变换之一是 NHWC 到 NCHW:若输入形状为 (batch, height, width, channels),可使用 perm=[0, 3, 1, 2] 得到 (batch, channels, height, width)。是否需要这样转换取决于后续算子或模型的明确数据格式要求。
用形状断言拦截错误变换
形状错误往往不会在变换发生时立即暴露,而是在矩阵乘法、卷积或损失计算处才报错。对关键边界增加断言,可以把问题定位到真正的变换位置。下面先验证元素总数,再重塑为 (4, 6)。
import tensorflow as tf
x = tf.range(24)
target = tf.constant([4, 6], dtype=tf.int32)
tf.debugging.assert_equal(tf.size(x), tf.reduce_prod(target))
y = tf.reshape(x, target)
print(y.shape.as_list())预期输出:
[4, 6]选择操作时可以直接看目的:只改变维度组合用 tf.reshape,删除或增加长度为 1 的轴用 tf.squeeze 与 tf.expand_dims,交换轴语义用 tf.transpose。每次变换后立即检查 shape,比等到模型深处出现维度不匹配更容易定位问题。