大数据与流处理 / 系统课时

演练一次线上 Schema 变更

演练一次线上 Schema 变更

线上 Schema 变更不能只验证 DDL 是否执行成功,还要确认 CDC 能识别新结构、下游能够接收新数据,并准备可执行的回退路径。本节用新增字段演练完整变更,再说明类型调整时需要额外关注的兼容边界。

学习目标

  • 按变更前检查、执行、链路验证的顺序完成一次 Schema 演练
  • 验证新增字段是否经过 CDC 正确传播到目标端
  • 在不兼容或验证失败时选择可控的回退方式

先定义演练目标

假设源库 cdc_demo.orders 正在被 Flink CDC 持续同步。现在业务需要增加可选备注字段 remark。选择允许 NULL 的新字段,是因为它不会要求历史行立即补值,也便于先验证 CDC 和下游兼容性。

变更前至少确认三件事:源表当前结构已经记录;CDC 作业和 Checkpoint 正常;目标端已经具备接收新字段的能力,或同步链路明确支持相应 Schema 演进策略。生产环境还应提前确认 DDL 对大表锁、复制和数据库负载的影响。

先查看源表结构:

sql
SHOW CREATE TABLE cdc_demo.orders;

预期结果:结果中存在当前订单字段,但还没有 remark。实际建表 SQL 会随实验环境不同而不同。

text
Table: orders
Create Table: <CURRENT_TABLE_DEFINITION_WITHOUT_REMARK>

执行新增字段并制造新数据

确认下游准备完成后,再执行 DDL。演练环境可以直接增加一个允许为空的字段:

sql
ALTER TABLE cdc_demo.orders
ADD COLUMN remark VARCHAR(255) NULL;

INSERT INTO cdc_demo.orders (id, price, remark)
VALUES (9001, 199, 'schema-change-test');

预期结果:ALTER TABLE 与 INSERT 均执行成功。不同客户端显示格式可能不同,但新增记录应成功写入。

text
Query OK, 0 rows affected
Query OK, 1 row affected

不要把“DDL 成功”当成演练完成。DDL 只证明源数据库接受了新结构,后面还需要观察 Schema 事件或新字段数据是否真正穿过 CDC 链路。

线上 Schema 变更的验证与回退链路

验证字段是否真正到达目标端

验证应沿数据流逐段进行,而不是只看 Flink 作业是否处于 Running。先确认源端新记录正确:

sql
SELECT id, price, remark
FROM cdc_demo.orders
WHERE id = 9001;

预期结果:

text
+------+-------+--------------------+
| id   | price | remark             |
+------+-------+--------------------+
| 9001 |   199 | schema-change-test |
+------+-------+--------------------+

随后检查 Flink 作业日志或监控,确认没有 Schema 解析、序列化、类型转换或 Sink 写入异常;最后在目标端查询同一主键。目标系统的具体 SQL 方言取决于所用 Sink,因此这里不假设目标数据库类型。

验收的关键不是日志里“没有 ERROR”,而是目标记录的主键、原字段和 remark 值均与源端一致。若链路支持自动 Schema 演进,还要确认目标表结构确实发生了预期变化,而不是事件被静默丢弃。

类型调整要先判断兼容方向

字段类型调整比新增可空字段危险。例如把 INT 扩大为 BIGINT,源库本身通常能够保存更大数值,但 CDC 的数据类型映射、中间序列化格式和目标字段都必须能够表达新的取值范围。如果目标端仍是较窄类型,源端 DDL 成功后仍可能在 Sink 阶段失败。

因此类型变更应先检查整条链路的类型兼容性,再修改源库,并写入一个能覆盖新范围的测试值进行验证。不要为了测试而直接在生产数据中写入破坏业务约束的极值;应使用专门的演练记录或预生产环境。

失败时按变更位置回退

如果 DDL 尚未执行,最安全的处理是停止变更并修正下游兼容问题。如果 DDL 已执行但业务还没有依赖新字段,可以停止写入新字段,并根据数据库能力与生产变更规范决定是否撤销该列。

如果新字段已经被应用使用,不应仅为了恢复 CDC 就贸然删除列。此时应优先恢复链路兼容性,例如升级转换逻辑或扩展目标 Schema,再从可靠的 Checkpoint 或 Savepoint 恢复。涉及类型缩窄时尤其不能直接反向执行 DDL,因为已经写入的新值可能无法转换回旧类型。

一次合格的 Schema 演练最终要留下三项证据:源端结构符合预期、变更后的测试数据完整到达目标端、异常情况下存在经过验证且不会破坏现有数据的回退路径。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

演练一次线上 Schema 变更

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通