FPGA 与数字 IC 设计 / 系统课时

区分流水线延迟与稳态吞吐率

区分流水线延迟与稳态吞吐率

把组合运算拆成多级寄存器后,时钟频率可能提高,但单笔数据不一定更早得到结果。本课用三级流水线和 ready-valid 握手实例,分别计算填充延迟、稳态吞吐率和停顿造成的气泡,并通过逐周期仿真验证,避免把流水线级数误当成性能提升倍数。

学习目标

  • 区分流水线延迟、启动间隔和稳态吞吐率,计算对应的周期数与时间。
  • 根据逐周期握手记录识别填充阶段、连续传输和气泡。
  • 使用 SystemVerilog 测试程序验证三级流水线在停顿前后的输出节奏。

延迟与吞吐率分别测量什么

流水线延迟(Latency)描述一笔输入从被接收到产生对应输出经历的时间。吞吐率(Throughput)描述单位时间内完成多少笔输出。两者的测量对象不同,不能只看一个指标判断性能。

假设三级寄存器流水线的输入在时钟上升沿 E1 被接收,数据依次进入第一级、第二级和第三级,最终在 E3 更新第三级输出寄存器。若约定输出在 E3 更新后可见,则从 E1 到 E3 经历两个时钟周期;如果从 E1 之后开始计数,则通常称为三级寄存器延迟。两种计数口径都可能出现,设计文档必须写明采样边沿与输出可见时刻。

工程中更推荐统一使用以下定义:输入在某个上升沿完成握手,输出在之后第几个上升沿完成握手。对于采用三级寄存器、无输出背压、且输入与输出握手均发生在时钟沿的设计,若 E1 接收、E4 才能被下游采样,则握手延迟为 3 个周期。

三级流水线填充延迟与稳态吞吐时序图

启动间隔(Initiation Interval,II)表示流水线相邻两笔输入被接收之间最少相隔多少拍。假设每一级都有独立寄存器且每拍允许接收新数据,II = 1,虽然单笔延迟可能是 3 拍,稳态仍然可以每拍输出一笔。

设时钟频率为 200 MHz,周期为 5 ns,理论吞吐率按下式计算:

Rmax⁡=fclkIIR_{\max}=\frac{f_{clk}}{II}

当 II = 1 时,理论最大吞吐率为每秒 2 亿笔;当 II = 2 时,理论最大吞吐率降为每秒 1 亿笔。该值假设输入持续有效、输出持续就绪,并且没有额外结构冲突。

用具体周期区分填充与稳态

考虑一条寄存器级数为 3 的流水线,输入每拍连续送入 A、B、C、D,下游始终可以接收。为避免混淆,表中的输出握手指下游在对应上升沿采样已经稳定的输出,而不是同一边沿刚更新的寄存器值。

上升沿 输入握手 输出握手 阶段
E1 A 无 填充
E2 B 无 填充
E3 C 无 填充
E4 D A 首笔完成
E5 无 B 连续输出
E6 无 C 连续输出
E7 无 D 排空完成

从 E1 到 E4,A 的握手延迟为 3 拍,即 15 ns。E4、E5、E6、E7 各完成一笔,稳态输出间隔为 1 拍,即 5 ns。

如果只统计 E1 至 E7 的七个上升沿,共完成四笔输出,则观测窗口内的平均完成率为每拍 4/7 笔。它小于稳态每拍一笔,并不表示流水线不能满速运行,而是因为观测窗口包含填充与排空阶段。

对持续 N 笔输入、握手延迟为 L 拍、II = 1 且无停顿的情况,从首笔输入握手到最后一笔输出握手相隔 L+N−1L+N-1 个周期。这里的总时间是首尾两个握手时刻之间的时间差;若统计包含首尾边沿的采样槽位数,则为 L+NL+N,两种统计不能混用。

停顿和气泡如何改变输出节奏

气泡是流水线某一级在某个周期没有有效数据的状态。它可能来自输入暂时没有数据、上游被背压阻塞、内部资源冲突或者下游停顿。

必须区分两种情况:输入 valid 为 0 会产生空槽;下游 ready 为 0 时,已有有效数据需要保留,通常表现为流水线停住,而不一定立即产生空槽。

假设三级流水线内部已连续装入 A、B、C,之后输入端在一个周期没有提供新数据 D。若其余阶段继续前进,D 对应的位置会形成一个空槽,经过流水线传播后,输出在相应周期缺少一笔有效数据。

输入气泡传播与输出背压停顿对比

对 ready-valid 接口,只有在上升沿同时满足 valid && ready 才记为一次传输。统计吞吐率时应数输出握手次数,而不是只数 valid=1 的周期。

例如观察 10 个输出采样周期,其中 7 个周期发生握手、2 个周期下游不就绪、1 个周期没有有效输出,则观测吞吐率为每拍 0.7 笔。在 200 MHz 时钟下,对应每秒 1.4 亿笔。这里统计的是完成率;若输入存在不同的数据宽度,还应额外计算每秒有效字节数。

用 SystemVerilog 验证流水线传输间隔

下面给出一个可独立运行的 SystemVerilog 仿真实验。它用三级移位寄存器模拟流水线,并通过输出寄存器的 valid 标志统计下游采样的数据。示例没有实现可背压的流水线,而是用固定输入空槽验证气泡传播;背压必须使用带保持能力的弹性流水线单独测试。

将以下内容保存为 pipeline_tb.sv,使用支持 SystemVerilog 的仿真器运行。示例采用 Icarus Verilog 的 SystemVerilog 模式,首笔输入在复位释放后的第一个上升沿进入第一级。

systemverilog
module pipeline_tb;
    logic clk = 0;
    logic rst_n = 0;
    logic in_valid = 0;
    logic [7:0] in_data = 0;
    logic [7:0] data_pipe [0:2];
    logic [2:0] valid_pipe = 0;
    integer cycle = 0;
    integer received = 0;

    always #5 clk = ~clk;

    // 三级寄存器每拍前进,输入无效时注入一个空槽。
    always @(posedge clk) begin
        if (!rst_n) begin
            valid_pipe <= 3'b000;
            data_pipe[0] <= 0;
            data_pipe[1] <= 0;
            data_pipe[2] <= 0;
        end else begin
            valid_pipe <= {valid_pipe[1:0], in_valid};
            data_pipe[0] <= in_data;
            data_pipe[1] <= data_pipe[0];
            data_pipe[2] <= data_pipe[1];
        end
    end

    // 在采样边沿读取更新前的输出状态,模拟下游握手。
    always @(posedge clk) begin
        if (rst_n) begin
            cycle = cycle + 1;
            if (valid_pipe[2]) begin
                received = received + 1;
                $display("cycle=%0d data=%0d", cycle, data_pipe[2]);
            end
        end
    end

    initial begin
        @(negedge clk);
        rst_n = 1;
        @(negedge clk); in_valid = 1; in_data = 11;
        @(negedge clk); in_data = 22;
        @(negedge clk); in_valid = 0;
        @(negedge clk); in_valid = 1; in_data = 44;
        @(negedge clk); in_valid = 0;
        repeat (5) @(negedge clk);
        $display("received=%0d", received);
        $finish;
    end
endmodule

执行编译和仿真:

bash
iverilog -g2012 -s pipeline_tb -o pipeline_sim pipeline_tb.sv
vvp pipeline_sim

预期输出:

text
cycle=5 data=11
cycle=6 data=22
cycle=8 data=44
received=3

输出数据 11 与 22 相隔 1 拍,而 22 与 44 相隔 2 拍。这不是运算速度变化,而是中间输入无效产生的气泡抵达输出端。首笔数据从输入被采样到输出被下游采样仍然相隔 3 拍。

本例使用 #5 生成仿真时钟,不代表综合硬件中的真实延时;时钟绝对时间取决于仿真时间单位设置。判断性能时使用周期编号更可靠。

建立可复用的性能验收指标

RTL 性能报告至少应分别记录延迟、II、理论吞吐率和实测完成率。例如一条 200 MHz 的三级流水线可以采用以下验收标准:

指标 验收值 测量方法
无停顿握手延迟 3 拍 为每笔数据记录输入和输出握手边沿
最小启动间隔 1 拍 连续输入时相邻输入握手间隔
理论稳态吞吐率 2 亿笔/秒 200 MHz 除以 II
连续输入稳态输出 每拍 1 笔 排除填充和排空阶段统计
背压期间数据保持 无丢失、无重复 ready=0 时检查输出 valid 和 data 稳定

要验证支持背压的真实流水线,可以给输入数据附加递增序号,在测试平台内维护期望输出队列,仅在输入握手时入队、输出握手时出队,并逐笔比较顺序和值。这样既能检测吞吐下降,也能发现停顿期间覆盖数据、重复输出和漏传的问题。

最终判断流水线是否达到设计目标,应使用同一套握手边沿记录:延迟看单笔输入到输出的间隔,吞吐率看稳态单位时间内完成的笔数,气泡看哪些周期本可以传输却没有发生有效握手。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

区分流水线延迟与稳态吞吐率

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通