机器学习与深度学习 / 系统课时

查看模型结构与参数

查看模型结构与参数

模型能运行并不代表结构一定正确。通过 model.summary()、逐层输入输出形状和参数量,可以在训练前确认层宽、输出类别数以及可训练参数是否符合设计,避免训练很久后才发现网络接错。

学习目标

  • 读取 model.summary() 中的输出形状与参数规模
  • 用 layer.input、layer.output 和 count_params() 核对每层结构
  • 区分可训练参数与不可训练参数,并定位异常来源

先看 summary 的三类信息

运行 model.summary() 时,优先看层名、输出形状和参数量。假设输入维度为 16,隐藏层 Dense(32) 的参数量应为 (16 + 1) × 32 = 544,其中多出来的 1 对应每个神经元的偏置项;若显示值明显不同,先检查输入维度或 units。

层 预期输出 参数量 核对重点
Dense(32) (None, 32) 544 输入维度是否为 16
BatchNormalization() (None, 32) 128 32 维特征对应 4 组状态/参数
Dense(4) (None, 4) 132 最终类别数是否为 4

批次维通常显示为 None,表示模型可以接收不同批大小。若最后一层输出成 (None, 3),而任务实际有 4 个类别,这属于结构错误,不应通过继续训练来“补救”。

用代码核对每层输入输出与参数

下面示例使用 TensorFlow 2.x 的 tf.keras。代码先构建模型,再让 summary 写入内存,随后用稳定的数值检查每层形状与参数量;这样即使不同 Keras 版本的摘要表边框或列宽变化,结构验证仍然一致。

python
import numpy as np
from tensorflow import keras

model = keras.Sequential(
    [
        keras.layers.Input(shape=(16,)),
        keras.layers.Dense(32, activation="relu", name="hidden"),
        keras.layers.BatchNormalization(name="norm"),
        keras.layers.Dense(4, name="classifier"),
    ],
    name="demo_classifier",
)

summary_lines = []
model.summary(print_fn=summary_lines.append)
summary_text = "\n".join(summary_lines)

print("summary generated:", len(summary_lines) > 0)
print("summary has total params:", "Total params" in summary_text)

for layer in model.layers:
    print(
        f"{layer.name}: "
        f"input={tuple(layer.input.shape)}, "
        f"output={tuple(layer.output.shape)}, "
        f"params={layer.count_params()}"
    )

trainable = sum(int(np.prod(v.shape)) for v in model.trainable_weights)
non_trainable = sum(int(np.prod(v.shape)) for v in model.non_trainable_weights)

print("total params:", model.count_params())
print("trainable params:", trainable)
print("non-trainable params:", non_trainable)

预期输出:

text
summary generated: True
summary has total params: True
hidden: input=(None, 16), output=(None, 32), params=544
norm: input=(None, 32), output=(None, 32), params=128
classifier: input=(None, 32), output=(None, 4), params=132
total params: 804
trainable params: 740
non-trainable params: 64

在交互式环境中可直接运行 model.summary() 查看完整表格;TensorFlow/Keras 版本变化可能改变表格样式,但上面的层形状与参数总数不应变化。

手算参数量定位结构错误

全连接层 Dense 的参数量可以直接手算:输入特征数乘输出单元数,再加每个输出单元一个偏置。本例隐藏层是 16 × 32 + 32 = 544,分类层是 32 × 4 + 4 = 132。只要这两个数字对不上,就说明层宽或输入形状与设计不一致。

BatchNormalization 处理 32 个特征时共有 128 个参数:gamma、beta、移动均值和移动方差各 32 个。其中前两组共 64 个是可训练参数,后两组共 64 个是不可训练状态,因此模型总参数为 544 + 128 + 132 = 804。

区分 trainable 与 non-trainable

model.trainable_weights 决定优化器会更新哪些变量,model.non_trainable_weights 则包含冻结层参数或像 Batch Normalization 移动统计量这类状态。本例 804 个总参数中,740 个可训练,64 个不可训练,二者相加必须等于总参数量。

如果把 hidden 层设置为不可训练,它的 544 个参数会从可训练集合移到不可训练集合:新的可训练参数应为 196,不可训练参数应为 608,总数仍是 804。修改 layer.trainable 后再训练时,应重新执行 compile,让优化器按新的可训练变量集合工作。

用结构检查替代训练后猜错

训练前可固定做四项验收:len(model.layers) 应为 3;classifier 输出最后一维应为 4;model.count_params() 应为 804;可训练与不可训练参数之和也应为 804。任一项不匹配,都先修正网络定义再进入 fit。

排查时优先用 model.get_layer("classifier") 精确拿到目标层,再检查其 output.shape 和 count_params(),比从训练损失反推结构错误更直接。结构确认无误后,训练曲线才有解释价值。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

查看模型结构与参数

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通