机器学习与深度学习 / 系统课时
查看模型结构与参数
查看模型结构与参数
模型能运行并不代表结构一定正确。通过 model.summary()、逐层输入输出形状和参数量,可以在训练前确认层宽、输出类别数以及可训练参数是否符合设计,避免训练很久后才发现网络接错。
学习目标
- 读取
model.summary()中的输出形状与参数规模 - 用
layer.input、layer.output和count_params()核对每层结构 - 区分可训练参数与不可训练参数,并定位异常来源
先看 summary 的三类信息
运行 model.summary() 时,优先看层名、输出形状和参数量。假设输入维度为 16,隐藏层 Dense(32) 的参数量应为 (16 + 1) × 32 = 544,其中多出来的 1 对应每个神经元的偏置项;若显示值明显不同,先检查输入维度或 units。
| 层 | 预期输出 | 参数量 | 核对重点 |
|---|---|---|---|
Dense(32) |
(None, 32) |
544 | 输入维度是否为 16 |
BatchNormalization() |
(None, 32) |
128 | 32 维特征对应 4 组状态/参数 |
Dense(4) |
(None, 4) |
132 | 最终类别数是否为 4 |
批次维通常显示为 None,表示模型可以接收不同批大小。若最后一层输出成 (None, 3),而任务实际有 4 个类别,这属于结构错误,不应通过继续训练来“补救”。
用代码核对每层输入输出与参数
下面示例使用 TensorFlow 2.x 的 tf.keras。代码先构建模型,再让 summary 写入内存,随后用稳定的数值检查每层形状与参数量;这样即使不同 Keras 版本的摘要表边框或列宽变化,结构验证仍然一致。
import numpy as np
from tensorflow import keras
model = keras.Sequential(
[
keras.layers.Input(shape=(16,)),
keras.layers.Dense(32, activation="relu", name="hidden"),
keras.layers.BatchNormalization(name="norm"),
keras.layers.Dense(4, name="classifier"),
],
name="demo_classifier",
)
summary_lines = []
model.summary(print_fn=summary_lines.append)
summary_text = "\n".join(summary_lines)
print("summary generated:", len(summary_lines) > 0)
print("summary has total params:", "Total params" in summary_text)
for layer in model.layers:
print(
f"{layer.name}: "
f"input={tuple(layer.input.shape)}, "
f"output={tuple(layer.output.shape)}, "
f"params={layer.count_params()}"
)
trainable = sum(int(np.prod(v.shape)) for v in model.trainable_weights)
non_trainable = sum(int(np.prod(v.shape)) for v in model.non_trainable_weights)
print("total params:", model.count_params())
print("trainable params:", trainable)
print("non-trainable params:", non_trainable)预期输出:
summary generated: True
summary has total params: True
hidden: input=(None, 16), output=(None, 32), params=544
norm: input=(None, 32), output=(None, 32), params=128
classifier: input=(None, 32), output=(None, 4), params=132
total params: 804
trainable params: 740
non-trainable params: 64在交互式环境中可直接运行 model.summary() 查看完整表格;TensorFlow/Keras 版本变化可能改变表格样式,但上面的层形状与参数总数不应变化。
手算参数量定位结构错误
全连接层 Dense 的参数量可以直接手算:输入特征数乘输出单元数,再加每个输出单元一个偏置。本例隐藏层是 16 × 32 + 32 = 544,分类层是 32 × 4 + 4 = 132。只要这两个数字对不上,就说明层宽或输入形状与设计不一致。
BatchNormalization 处理 32 个特征时共有 128 个参数:gamma、beta、移动均值和移动方差各 32 个。其中前两组共 64 个是可训练参数,后两组共 64 个是不可训练状态,因此模型总参数为 544 + 128 + 132 = 804。
区分 trainable 与 non-trainable
model.trainable_weights 决定优化器会更新哪些变量,model.non_trainable_weights 则包含冻结层参数或像 Batch Normalization 移动统计量这类状态。本例 804 个总参数中,740 个可训练,64 个不可训练,二者相加必须等于总参数量。
如果把 hidden 层设置为不可训练,它的 544 个参数会从可训练集合移到不可训练集合:新的可训练参数应为 196,不可训练参数应为 608,总数仍是 804。修改 layer.trainable 后再训练时,应重新执行 compile,让优化器按新的可训练变量集合工作。
用结构检查替代训练后猜错
训练前可固定做四项验收:len(model.layers) 应为 3;classifier 输出最后一维应为 4;model.count_params() 应为 804;可训练与不可训练参数之和也应为 804。任一项不匹配,都先修正网络定义再进入 fit。
排查时优先用 model.get_layer("classifier") 精确拿到目标层,再检查其 output.shape 和 count_params(),比从训练损失反推结构错误更直接。结构确认无误后,训练曲线才有解释价值。