5.4 指令流水线

流水线的基本概念与五段 RISC 流水线；吞吐率、加速比、效率的计算；结构冒险、数据冒险、控制冒险及其处理（阻塞、旁路、分支预测）；超标量、超流水线与超长指令字。

流水线的基本概念

把一条指令的执行过程分成若干功能段，每段由独立的部件完成。这样，前一条指令完成某段的工作后进入下一段，后一条指令就可以进入这一段——就像工厂里的装配流水线，多条指令在不同的段上重叠执行。

一条指令完成的时间并没有缩短（反而因为段间寄存器而略有增加），但单位时间内完成的指令数——吞吐率——大大提高了。

五段流水线

典型的 RISC 指令流水线把指令执行分为 5 段，每段一个时钟周期：

各段之间设有流水段寄存器（锁存器），保存上一段的结果供下一段使用。

流水线的性能指标

设流水线有 k 段，每段时间都为 Δt，连续输入 n 条指令。第一条指令需要 kΔt 才流出，此后每个 Δt 流出一条，因此完成 n 条指令的时间为

在下面的计算器中修改各段时间、段间延迟和指令数。纵轴为功能段、横轴为时间的时空图中，蓝色格子就是有效的时空区：

流水线的冒险与处理

在理想情况下流水线每个时钟周期完成一条指令（CPI = 1），但冒险（hazard，也称相关、冲突）会使流水线不得不停顿。

结构冒险（资源冲突）

多条指令在同一时刻争用同一个硬件资源。典型的例子是：一条指令在 MEM 段访问数据，同时另一条指令在 IF 段取指令——如果指令和数据放在同一个存储器中，就会冲突。

解决办法：前一条指令访存时，后一条相关指令暂停一个时钟周期；或者资源重复配置，例如把指令存储器和数据存储器分开（分离的 I-Cache 和 D-Cache）。

数据冒险（数据相关）

后一条指令要用到前一条指令的结果，而前一条指令还没有把结果写回。按读写顺序分为三类：

• 写后读（RAW）：后一条指令要读前一条指令写的寄存器——在顺序执行的五段流水线中只有这一种会造成冒险；
• 读后写（WAR）、写后写（WAW）：只在指令乱序执行时才可能出现。

解决办法：

1. 暂停（阻塞）：把遇到数据相关的指令及其后续指令都暂停一至几个时钟周期，直到数据相关问题消失再继续执行。可由硬件阻塞，也可由编译器插入空操作指令 nop（软件插入”气泡”）。
2. 数据旁路（转发）：不等结果写回寄存器，直接把 EX 段或 MEM 段输出的结果送到 ALU 的输入端。
3. 编译优化：通过调整指令顺序，把不相关的指令插到相关指令之间。

选择不同的指令序列，打开/关闭数据旁路，观察阻塞的周期数：

从演示中可以看到：

• 不采用旁路时，相邻两条指令之间的 RAW 相关要阻塞 2 个周期，相隔一条指令时阻塞 1 个周期，相隔两条及以上不阻塞；
• 采用旁路后，ALU 指令之间的相关全部消除；但 load-use 相关（紧跟在 load 之后使用其结果）仍要阻塞 1 个周期，因为数据在 MEM 段末才从存储器读出。

控制冒险（转移相关）

转移指令、中断、异常等改变了指令的执行顺序。在转移指令确定是否转移以及转移目标之前，流水线可能已经按顺序取入了后续指令，一旦转移成功，这些指令就必须作废（冲刷）。在演示中选择「控制冒险」，比较转移在 EX 段确定（损失 2 个周期）与在 ID 段确定（损失 1 个周期）的区别。

解决办法：

1. 分支预测：静态预测（如总是预测不转移）、动态预测（根据转移的历史情况预测）；
2. 预取转移成功和不成功两个方向上的目标指令；
3. 加快和提前形成条件码，尽早确定转移方向；
4. 延迟转移：把转移指令之后的若干条指令（延迟槽）总是执行，由编译器在延迟槽中填入有用的指令。

I1: add  s2, s1, s0     // s2 ← s1 + s0
I2: lw   s3, 0(t2)      // s3 ← M[t2]
I3: add  s2, s2, s3     // s2 ← s2 + s3
I4: sw   s2, 0(t2)      // M[t2] ← s2

高级流水线技术

即时练习