计算机网络 / 系统课时

多线程Reactor竞态怎么定位

多线程Reactor竞态怎么定位

多线程 Reactor 的竞态往往不是“某个锁没加”这么简单,而是 fd 所属线程、连接迁移、跨线程任务与对象销毁的时序互相打架。本课建立一组可验证的不变量,并用代际号与线程归属日志把难复现问题变成可以定位的违例。

学习目标

  • 建立 fd、连接对象与 EventLoop 线程之间的所有权不变量
  • 用连接代际号识别迁移后的过期任务和 fd 复用
  • 按固定顺序定位跨线程投递、销毁和回调竞态

先把并发不变量写清楚

排查前先约定三条不变量:一个连接在任意时刻只归一个 EventLoop 修改;跨线程操作只能投递任务,不能直接碰连接状态;关闭或迁移后,旧任务必须能识别自己已经过期。若系统允许连接迁移,还要把“迁移”视为所有权切换,而不是简单修改一个线程编号。

仅记录 fd 不够。fd 是进程内可复用的整数,连接 A 关闭后,同一个数值可能很快被连接 B 重新获得。日志至少同时记录连接 ID、fd、owner loop、generation 和事件类型,这样才能区分“旧连接的迟到任务”与“新连接的正常事件”。

多线程 Reactor 竞态定位时序

按事件时间线定位

先找最早发生的不变量违例,而不是最后一次崩溃。建议把同一连接的日志按单调时钟排序,依次检查:事件从哪个 loop 收到、任务由谁投递、执行时 owner 是否仍一致、对象何时进入 closing、何时从 poller 移除、何时真正析构。

如果崩溃点在回调内部,要继续向前追。常见根因是旧任务持有裸指针、迁移后旧 loop 仍处理可写事件、关闭路径先析构对象再取消定时器,或者一个线程直接 close fd、另一个线程仍把该 fd 当作活连接处理。

用代际号抓住过期任务

下面的最小程序模拟“任务在 Loop A 排队,连接随后迁移到 Loop B”的情况。生产代码可以把相同检查放在任务执行入口,并把 generation 与连接 ID 一起写入日志。

cpp
#include <atomic>
#include <iostream>
#include <memory>

struct Connection {
    std::atomic<int> ownerLoop{1};
    std::atomic<unsigned> generation{1};
    std::atomic<bool> alive{true};

    bool validateTask(int currentLoop, unsigned taskGeneration) const {
        if (!alive.load()) {
            std::cout << "drop: object destroyed\n";
            return false;
        }

        int owner = ownerLoop.load();
        unsigned currentGeneration = generation.load();
        if (owner != currentLoop || currentGeneration != taskGeneration) {
            std::cout << "drop: stale task, owner=" << owner
                      << " current=" << currentLoop
                      << " generation=" << currentGeneration
                      << " taskGeneration=" << taskGeneration << "\n";
            return false;
        }
        return true;
    }

    void migrateTo(int newLoop) {
        ownerLoop.store(newLoop);
        generation.fetch_add(1);
    }

    void destroy() {
        alive.store(false);
        generation.fetch_add(1);
    }
};

int main() {
    auto conn = std::make_shared<Connection>();

    int queuedLoop = 1;
    unsigned queuedGeneration = conn->generation.load();

    conn->migrateTo(2);
    conn->validateTask(queuedLoop, queuedGeneration);

    conn->destroy();
    conn->validateTask(2, conn->generation.load());
}

预期输出

text
drop: stale task, owner=2 current=1 generation=2 taskGeneration=1
drop: object destroyed

可用 g++ -std=c++17 -O2 reactor_race.cpp && ./a.out 编译运行。真实系统中不要让跨线程任务捕获裸 Connection*;优先捕获弱引用或稳定的连接句柄,并在执行时重新校验连接是否仍存活、是否仍属于当前 loop。

修复顺序与验证

修复时先消除跨线程直接访问,再处理迁移与销毁顺序。典型顺序是:把状态修改统一收敛到 owner loop;迁移时先停止旧 loop 接收该连接事件,再切换 owner 并递增 generation;关闭时先标记 closing、取消定时器和异步任务、从 poller 注销,最后才释放对象和 fd。

验证不能只看“压测没崩”。应同时检查线程归属违例计数为零、过期任务只被安全丢弃、同一连接不会在两个 loop 同时出现活动回调,并在开启 ThreadSanitizer 的测试构建中覆盖迁移、超时关闭、对端复位和主动取消等路径。只要这些不变量持续成立,难复现的竞态才真正被收敛。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

多线程Reactor竞态怎么定位

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通