机器学习与深度学习 / 系统课时

使用函数式 API

使用函数式 API

函数式 API 用“张量之间的连接关系”定义模型,适合线性堆叠表达不了的拓扑。本课构建一个双输入网络:主特征分支带残差连接,与上下文分支合并后再产生两个输出,并用形状和参数量验证整张计算图。

学习目标

  • 用 keras.Input、层调用和 keras.Model 连接计算图。
  • 构建多分支、跳跃连接以及多输入多输出模型。
  • 在 Add、Concatenate 等合并点检查张量形状是否兼容。

把模型看成张量图

函数式 API 的关键不是“按顺序添加层”,而是保留每次层调用得到的张量,再明确下一步让哪些张量连接。下面的案例有两个输入、一个残差相加点、一个特征拼接点和两个输出,已经超出 Sequential 的单链路范围。

函数式 API 的多输入、残差与多输出拓扑

画图时最值得盯住的是两个合并点:Add 两侧必须都是 16 维;Concatenate 则把 16 维残差结果和 8 维上下文结果拼成 24 维。只要这两个数字对不上,模型会在构建或调用时暴露形状错误。

构建双输入双输出模型

下面代码同时演示多分支、残差连接和多输出。残差支路用一个无偏置 Dense 把原始 8 维输入投影到 16 维,使它可以与主分支的 16 维张量相加。

python
import tensorflow as tf
from tensorflow import keras

features = keras.Input(shape=(8,), name="features")
context = keras.Input(shape=(4,), name="context")

main = keras.layers.Dense(16, activation="relu", name="main_1")(features)
main = keras.layers.Dense(16, name="main_2")(main)

# shortcut 必须投影到 16 维,才能与 main 做逐元素相加。
shortcut = keras.layers.Dense(
    16, use_bias=False, name="shortcut"
)(features)
residual = keras.layers.Add(name="residual_add")([main, shortcut])
residual = keras.layers.ReLU(name="residual_relu")(residual)

context_branch = keras.layers.Dense(
    8, activation="relu", name="context_dense"
)(context)

merged = keras.layers.Concatenate(name="merge")(
    [residual, context_branch]
)
shared = keras.layers.Dense(12, activation="relu", name="shared")(merged)

score = keras.layers.Dense(1, name="score")(shared)
class_probs = keras.layers.Dense(
    3, activation="softmax", name="class_probs"
)(shared)

model = keras.Model(
    inputs=[features, context],
    outputs=[score, class_probs],
    name="multi_io_model",
)

feature_batch = tf.ones((2, 8), dtype=tf.float32)
context_batch = tf.zeros((2, 4), dtype=tf.float32)
score_value, class_value = model([feature_batch, context_batch])

print("score shape:", score_value.shape)
print("class shape:", class_value.shape)
print("params:", model.count_params())

预期输出

text
score shape: (2, 1)
class shape: (2, 3)
params: 936

输出顺序与 keras.Model(outputs=[score, class_probs]) 中的列表顺序一致。实际项目里建议给输入、关键合并层和输出命名,这样查看 model.summary() 或定位报错时,不必依赖自动生成的 dense_7 一类名称。

检查合并点的形状

Add 是逐元素运算,本例两侧都必须为 (None, 16);如果把 shortcut 改成 12 个单元,keras.layers.Add() 会因为最后一维不一致而失败。修复方法不是随意 reshape,而是让投影层输出与主分支一致的 16 维。

Concatenate 默认沿最后一维拼接,因此 (None, 16) 与 (None, 8) 得到 (None, 24)。随后 Dense(12) 的参数量是 24×12+12=300,整个模型参数量可逐层反算为 144+272+128+40+300+13+39=936。

用函数式 API 表达更复杂拓扑

当模型出现共享层时,同一个层对象可以对多个张量调用;当模型有多个输出时,可以从共享主干分别接出分类头、回归头或其他任务头。判断是否适合函数式 API,可以直接检查数据流里是否存在“分叉、汇合、跨层回连”中的任意一种。

本例的可验收条件很具体:两个输入批次的第一维都为 2;残差两侧都是 16 维;拼接后为 24 维;两个输出分别是 (2, 1) 与 (2, 3);总参数量为 936。只要这些数字同时成立,说明图连接与设定一致。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

使用函数式 API

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通