半导体与芯片 / 系统课时
互连规模增大为何引入 NoC
互连规模增大为何引入 NoC
当 CPU 核簇、NPU、DMA 和多个存储控制器分布在芯片不同区域时,集中式交叉开关可能被长距离布线和复杂仲裁限制。本篇通过具体端口规模、NoC 网格结构和一次读请求,说明片上网络怎样解决扩展问题,以及哪些情况下仍应使用简单互连。
学习目标
- 解释集中式交叉开关扩大规模后面临的布线、时序和扩展问题。
- 识别 NoC 的网络接口、路由器、链路和逐跳转发过程。
- 根据端点分布、带宽、延迟和硬件成本判断 NoC 的适用边界。
集中式交叉开关为何难以持续扩展
交叉开关(Crossbar)允许多个发起端同时访问不同目标端。对于规模较小、位置集中的 SoC,它可以提供较短的访问路径,且协议和仲裁关系相对直观。
假设一颗 SoC 包含以下模块:
- 8 个发起端:4 个 CPU 核簇、2 个 NPU 数据接口、2 个 DMA 引擎。
- 8 个目标端:4 个 SRAM Bank、2 个 DDR 控制器、2 个外设总线桥。
完全交叉连接需要支持 8 × 8 = 64 种逻辑输入输出配对。若两侧端口都扩展到 16 个,配对关系增加到 16 × 16 = 256 种,是原来的 4 倍。
这里的 64 和 256 是逻辑端口配对数量,并非实际物理导线数量,也不能直接用来计算芯片面积。具体硬件成本取决于交换结构、位宽、流水线、仲裁方式和实现工艺。
真正困难的是物理布局。例如 CPU 位于芯片左侧,NPU 位于下方,DDR 控制器位于右侧;若所有宽数据通路都汇聚至中央交叉开关,再延伸到目标端,就可能产生大量跨区域长连线。
这些连线会增加寄生电容、传播延迟和缓冲器需求,造成布线拥塞与时序收敛困难。提高交叉开关内部的仲裁效率,也不能消除长距离物理连线的成本。
此外,交叉开关能够让不同目标端并行工作,却不能让多个发起端同时独占同一个单端口目标。如果 CPU 和 NPU 都访问同一个 DDR 控制器,目标端仍然必须处理竞争。
NoC 如何改变互连结构
NoC(Network-on-Chip,片上网络)将集中式的大型交换结构拆分为多个局部交换节点。功能模块接入附近的网络节点,数据经由若干段局部链路到达目的地,而不必全部经过同一个中央交换点。
一个典型 NoC 包含三类关键组件:
- 网络接口(NI):连接 CPU、DMA、存储控制器等端点,把 AXI 等接口事务转换为片内网络可以承载的传输形式,并负责必要的协议适配。
- 路由器(Router):根据目的地和路由规则选择输出方向,对竞争同一输出资源的数据进行仲裁。
- 链路(Link):连接相邻路由器或网络接口,承载数据和流量控制信息。
以 4 × 4 二维网格为例,16 个路由器排列为 4 行、4 列,每个路由器与存在的上下左右相邻节点连接。端点通过 NI 就近接入,数据逐跳传输。扩展网络时,可以增加路由器行列并连接相邻节点,而不是将所有新端口重新接到中央交叉开关。

NoC 的网络拓扑不只有网格,还可以采用环形、树形或分层结构。网格适合将大量端点分布到二维芯片区域,环形可能更适合中等数量的节点,而小型交叉开关仍然适合端点集中的局部区域。
NoC 的收益来自空间上的分布式连接和链路复用,但它同时引入路由器、缓冲区、仲裁与流量控制硬件。因此网络扩大并不意味着单次访问延迟一定降低。
一次读请求如何穿过 NoC
考虑 CPU 通过 AXI 接口读取远端 SRAM 的一个缓存行。以采用请求封装和逐跳路由的 NoC 为例,过程如下:
- CPU 发出 AXI 读地址请求,源端 NI 根据地址映射确定目标,保存必要的事务信息,并编码为内部网络传输单元。
- 源路由器选择下一跳,后续路由器按照路由规则转发数据。如果多个输入竞争同一输出链路,需要仲裁;缓冲资源不足时,流量控制机制会使上游等待。
- 请求到达目标 NI,目标 NI 将其转换为目标接口能够接受的读事务,再交给 SRAM 控制器处理。
- SRAM 返回数据,响应经过 NoC 回到源 NI,并按端点协议要求完成事务标识、数据拍数及顺序管理,最终交付 CPU。
内部网络可能把一次总线事务划分为多个传输单元,具体封装方式由 NoC 实现决定,不能认为每个 AXI 数据拍必然对应一个网络包。
例如,在二维网格中,从坐标 (0,0) 到 (3,2),按先横后纵的最短路径,需要水平移动 3 条链路、垂直移动 2 条链路,合计经过 5 条链路。
5 条链路不等于 5 个时钟周期的读延迟。 实际延迟还包括 NI 处理、路由器流水、输出仲裁、排队、目标存储器访问及响应返回。链路拥塞时,延迟可能进一步增加。
对于共享链路,设计者还需要明确路由策略、缓冲与流量控制规则。如果系统提供虚通道或 QoS 优先级,它们可以帮助隔离部分流量或改善服务质量,但不会自动保证所有请求的最坏延迟,也不能替代死锁和拥塞分析。
什么时候值得引入 NoC
判断是否引入 NoC,不能只看 CPU 数量,而要同时观察端点的物理位置、并发通信需求和性能面积功耗约束。
| 判断维度 | 更适合简单互连 | 更值得评估 NoC |
|---|---|---|
| 端点规模与分布 | 少量端点集中布局 | 大量端点分散于多个物理区域 |
| 通信模式 | 低并发、短距离寄存器访问 | 多对多、高带宽持续传输 |
| 延迟需求 | 优先保证简单、短路径 | 可接受多跳并希望提高整体并行能力 |
| 实现成本 | 严格限制面积和静态功耗 | 能承担路由器、缓冲和验证成本 |
例如,4 个发起端与 4 个目标端集中在同一区域,主要访问配置寄存器,采用局部交叉开关与 AHB/APB 桥通常更直接。若芯片有 16 个分散的发起端和 16 个高带宽目标端,则值得比较交叉开关、环形和网格等不同方案的物理实现结果。这些端口数量只是分析示例,不是固定的 NoC 选型门槛。
还要辨别网络瓶颈与目标端瓶颈。假设所有发起端最终访问同一个峰值带宽为 8 GB/s 的 DDR 控制器,那么无论 NoC 有多少条可并行使用的链路,都无法让这个控制器的持续输出超过它本身的有效服务能力。此时应检查存储带宽、通道数量及访问局部性,而不能单靠增加路由器解决问题。
实际方案评审时,应对比布局布线后的最高可达频率、面积、动态及静态功耗、典型负载吞吐量、拥塞下的尾部延迟,以及事务顺序和前进性验证结果。Arm 的 AMBA 5 架构介绍也说明,高性能互连可以使用交叉开关、环形、网格等不同拓扑,而不必绑定某一种形式。
对大型 SoC,常见的合理做法是让跨区域高带宽通信使用 NoC,而局部寄存器和低速外设仍使用较简单的总线与桥接结构。这样既能减少全局互连的物理压力,也避免让每一次简单外设访问都承担复杂网络的实现成本。