智能制造与工业软件 / 系统课时

演练断网积压与补传后的乱序写入

演练断网积压与补传后的乱序写入

用四条温度事件做一次可重复的断网演练:先积压数据并重启边缘网关,再恢复传输、故意打乱到达顺序和丢失一次确认,最后核对平台能否完整保存原始事件且不重复入库。

学习目标

  • 复现边缘落盘积压、网关重启与恢复补传,检查队列是否持久化。
  • 区分消息重试、事件时间乱序和重复写入,并使用稳定事件 ID 去重。
  • 按事件集合、原始数值及队列余量验收恢复结果。

定义样本和通过标准

测试范围只包含一台网关、一个温度测点和四条事件。下表的时间与 ID 是固定测试数据,并非运行时生成值;生产环境应使用设备真实事件时间及持久保存的全局唯一事件 ID。

事件 ID 事件时间(UTC) 温度(°C)
evt-001 2026-10-01 10:00 81
evt-002 2026-10-01 10:01 84
evt-003 2026-10-01 10:02 83
evt-004 2026-10-01 10:03 86

先在断网期间落盘前三条,重启后再落盘第四条。恢复连接时故意按 evt-004、evt-002、evt-001、evt-002、evt-003 送达,其中第二次 evt-002 模拟平台已提交、但网关未收到应用级确认后的重试。

通过标准为:重启前后待发记录均为 3 条;恢复前峰值积压为 4 条;平台最终恰有 4 个不同事件 ID,数值和事件时间与原始样本一致;重复送达 1 次但未产生新行;应用确认完成后边缘待发队列为 0。不能只比较总行数,必须逐个 ID 对账。

用 SQLite 复现重启与乱序补传

下面的 Python 3 示例仅依赖标准库,使用两个 SQLite 文件模拟网关落盘队列与平台数据库。断网由“暂不发送”模拟;重启由关闭再打开数据库连接模拟,并非真实网络或进程故障。临时文件会在程序结束时清理,实际网关应使用持久化存储卷。

python
import sqlite3
from pathlib import Path
from tempfile import TemporaryDirectory

with TemporaryDirectory() as work:
    edge_path = Path(work) / "edge.sqlite"
    cloud_path = Path(work) / "cloud.sqlite"
    edge = sqlite3.connect(edge_path)
    edge.execute("CREATE TABLE outbox (event_id TEXT PRIMARY KEY, event_time TEXT NOT NULL, value REAL NOT NULL)")
    cloud = sqlite3.connect(cloud_path)
    cloud.execute("CREATE TABLE samples (event_id TEXT PRIMARY KEY, event_time TEXT NOT NULL, value REAL NOT NULL)")
    events = [
        ("evt-001", "2026-10-01T10:00:00Z", 81.0),
        ("evt-002", "2026-10-01T10:01:00Z", 84.0),
        ("evt-003", "2026-10-01T10:02:00Z", 83.0),
        ("evt-004", "2026-10-01T10:03:00Z", 86.0),
    ]

    # 断网时只向本地队列提交,不能提前删掉未确认事件
    edge.executemany("INSERT INTO outbox VALUES (?, ?, ?)", events[:3])
    edge.commit()
    print("断网积压:", edge.execute("SELECT COUNT(*) FROM outbox").fetchone()[0])
    edge.close()
    edge = sqlite3.connect(edge_path)  # 重开同一个文件,检查持久化
    print("重启后积压:", edge.execute("SELECT COUNT(*) FROM outbox").fetchone()[0])
    edge.execute("INSERT INTO outbox VALUES (?, ?, ?)", events[3])
    edge.commit()
    print("恢复前积压:", edge.execute("SELECT COUNT(*) FROM outbox").fetchone()[0])

    # 故意乱序发送,并让 evt-002 首次应用确认丢失
    pending = {row[0]: row for row in edge.execute("SELECT * FROM outbox")}
    arrival = ["evt-004", "evt-002", "evt-001", "evt-002", "evt-003"]
    for event_id in arrival:
        cursor = cloud.execute(
            "INSERT INTO samples VALUES (?, ?, ?) ON CONFLICT(event_id) DO NOTHING",
            pending[event_id],
        )
        cloud.commit()  # 平台提交成功后,才允许发应用级确认
        print(f"{event_id}: {'入库' if cursor.rowcount == 1 else '去重'}")
        if event_id == "evt-002" and cursor.rowcount == 1:
            continue  # 确认丢失:本地仍保留,下一轮将重试
        edge.execute("DELETE FROM outbox WHERE event_id = ?", (event_id,))
        edge.commit()

    stored = list(cloud.execute("SELECT * FROM samples ORDER BY event_time, event_id"))
    left = edge.execute("SELECT COUNT(*) FROM outbox").fetchone()[0]
    assert stored == events, "平台数据缺失或内容不一致"
    assert left == 0, "仍有事件未确认"
    print("平台唯一样本:", len(stored))
    print("边缘队列剩余:", left)
    print("事件时间顺序:", ",".join(row[0] for row in stored))
    edge.close()
    cloud.close()

预期输出:

text
断网积压: 3
重启后积压: 3
恢复前积压: 4
evt-004: 入库
evt-002: 入库
evt-001: 入库
evt-002: 去重
evt-003: 入库
平台唯一样本: 4
边缘队列剩余: 0
事件时间顺序: evt-001,evt-002,evt-003,evt-004

其中 stored == events 不仅检查数量,也检查每条记录的事件 ID、时间和温度;任何一项不一致都会触发断言,避免“少一条、另有重复”被计数掩盖。

识别乱序和确认丢失的位置

乱序可以来自多个上传批次、并发消费者或重试插队,并不意味着单条 TCP 连接会颠倒字节顺序。平台按 event_time 重建测点时间线,另行记录接收时间用于排障;不能把补传到达时间覆盖为设备事件时间。

断网重启后乱序补传与幂等入库时序

对 MQTT QoS 1 而言,PUBACK 仅确认当前 MQTT 发布链路上的消息交付到接收方(网关发布场景下通常是 Broker),不等于平台数据库已提交。若要求断网后可对账,须设计平台提交后的应用级确认,再删除出站记录;确认丢失时允许原 ID 重试,由数据库唯一约束处理重复。若相同 ID 携带了不同时间或数值,应记为冲突而非无声覆盖。

在隔离联调环境验收

  1. 为测点启用可查询的出站队列、重试计数和平台入库记录,采集四条测试事件的原始 ID、时间和值。先暂停网关至测试 Broker 的网络链路,避免误断远程管理或生产控制通道。
  2. 在离线状态采集前三条,确认落盘且待发数为 3;重启网关服务后再次查询,仍应为 3。写入第四条后待发数应为 4。真实重启还要确认数据库所在卷不会随容器重建消失。
  3. 恢复网络,用测试发送器或消费端并发调度制造乱序,再人为丢弃一次平台提交后的应用确认,观察相同 event_id 重试。不要依赖碰运气的网络抖动来制造指定顺序。
  4. 以原始事件 ID 集合对比平台已提交集合,再逐项比较时间、温度;按事件时间排序核对 001 至 004。确认重复送达仅增加去重计数,并在所有应用确认完成后检查待发队列归零。
异常现象 优先检查 修正方向
重启后待发从 3 变成 0 队列是否写入临时目录、提交是否完成 改为持久卷,写盘成功再进入待发状态
边缘清空但平台不足 4 条 是否把 Broker 的 PUBACK 当成平台落库确认 平台提交后再发应用级确认
同一事件出现两行 重试时是否重新生成 ID、表上有无唯一键 保留原 ID,以 event_id 唯一约束去重
平台曲线顺序错误 是否按入库时间而非事件时间绘图 保留源时间并按 event_time 排序
平台已有 4 条但队列未清零 应用确认、重试及本地删除是否完成 核对确认链路,勿直接手工清队列

本地脚本只验证队列持久化与幂等写入的最小机制;上线前还需在真实 Broker、网关进程和平台数据库之间重复相同故障注入,保留队列水位、应用确认、重试次数及逐事件对账结果作为排障基线。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

演练断网积压与补传后的乱序写入

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通