國家精品資源共享課程：計算機體系結構第三章：流水線技術國防科技大學計算機學院主講人：教授國家精品資源共享課程：計算機體系結構第三章：流水線技術國防科第三章流水線技術第三章流水線技術3.1流水線基本概念3.2MIPS基本流水線3.3流水線中的相關3.4實例分析：MIPSR40003.5向量處理機本章內容本章內容

三項性能指標：吞吐率、加速比和效率1.吞吐率 是衡量流水線速度的重要指標吞吐率是指單位時間內流水線所完成的任務數或輸出結果的數量。最大吞吐率TPmax是指流水線在達到穩定狀態后所得到的吞吐率。設流水線由m段組成，完成n個任務的吞吐率稱為實際吞吐率，記作TP。3.2.3流水線性能分析 三項性能指標：吞吐率、加速比和效率3.2.3流水線性能分（1）最大吞吐率假設流水線各段的時間相等，均為△t0，則：TPmax=1/△t0假設流水線各段時間不等，第i段時間為△ti

，則：TPmax=1/max{△ti}最大吞吐率取決于流水線中最慢一段所需的時間，該段成為流水線的瓶頸消除瓶頸的方法細分瓶頸段重復設置瓶頸段 （時空圖）（1）最大吞吐率（2）實際吞吐率若各段時間相等（假設均為△t0），則完成時間T流水

=m△t0+(n-1)△t0

（說明）時空圖TP＝───＝──────────T流水nm·△t0＋(n－１)△t0n(1＋)△t0

＝────────＝─────m－11TPmaxn1＋nm－1實際吞吐率（2）實際吞吐率TP＝───＝──────────T若各段時間不等（假設第i段為△ti），則完成時間

時空圖T=∑△ti+(n-1)△tj

這里，△tj=max{△ti

}i=1mTP＝──────────∑△ti＋(n－1)△tjmi=1n實際吞吐率若各段時間不等（假設第i段為△ti），則完成時間i=1mTP2.加速比加速比是指流水線速度與等功能的非流水線速度之比。根據定義可知，加速比S=T非流水/T流水若流水線為m段，每段時間均為△t0，則T非流水

=nm△t0，T流水

=m△t0

+(n-1)△t0 S＝

──────

＝───────mnm＋n－1mn1＋

m－12.加速比＝──────＝───────mnm＋n－3.效率效率指流水線的設備利用率。由于流水線有通過時間和排空時間，所以流水線的各段并非一直滿負荷工作，E<1若各段時間相等，則各段效率也相等，即e1=e2=e3=…=n△t0/T流水(解釋)整個流水線效率E

＝───＝──────＝─────n△t0T流水nm＋n－11n1＋

m－1當n>>m時，E≈13.效率E＝───＝──────＝─────n△3.效率從時-空圖上看，效率就是n個任務所占的時空區與m個段總的時空區之比根據這個定義，可以計算流水線各段時間不等時的流水線效率

n個任務占用的時空區

E＝━━━━━━━━━━━

m個段總的時空區3.效率n個任務占用的時空區

E＝━━━━━━━━4.吞吐率、加速比和效率的關系E=n△t0/T流水=mn△t0/(T流水m)=S/m

效率是實際加速比S與最大加速比m之比。E=n△t0/T流水=(n/T流水)·△t0=TP△t0

當△t0不變時，流水線的效率與吞吐率呈正比。為提高效率而采取的措施，也有助于提高吞吐率。4.吞吐率、加速比和效率的關系例3.1

在靜態流水線上計算∑AiBi

，問吞吐率、加速比、效率各是多少？解： (1)確定適合流水處理的計算過程

(2)畫時-空圖

(3)性能計算 吞吐率TP=7/20·△t0

加速比S=34·△t0/20·△t0=1.7

效率E＝(4×4＋3×6)/(8×20)＝0.21i=1m5.流水線性能分析實例例3.1在靜態流水線上計算∑AiBi，問吞吐率、加速i

上述方案性能不高！靜態多功能流水線在對某種功能進行處理時，總有某些段處于空閑狀態功能切換增加了前一種功能的排空時間和后一種功能的通過時間需要把輸出回傳到輸入（相關） 能否通過動態流水線改進其性能？舉例I舉例II 這樣行不行？

正確方案 上述方案性能不高！例3.3

在MIPS的非流水實現和基本流水線中，5個功能單元的執行時間：10/8/10/10/7ns。流水線額外開銷為1ns，求相對于非流水指令實現而言，基本MIPS流水線的加速比是多少？解： T非流水

=10+8+10+10+7=45 T流水

=10+1=11

加速比S=45/11≈4.1注：流水線額外開銷包括：流水寄存器的延遲（建立時間和傳輸延遲）以及時鐘扭曲例3.3在MIPS的非流水實現和基本流水線中，5個功能6.有關流水線性能的若干問題流水線并不能減少（而且一般是增加）單條指令的執行時間，但能夠提高吞吐率增加流水線的深度可以提高流水線性能流水線深度受限于流水線的延遲和額外開銷需要用高速鎖存器作為流水線寄存器Earle鎖存器指令之間存在的相關，限制了流水線的性能6.有關流水線性能的若干問題體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件體系結構第3章-第3講課件Earle鎖存器1965年由J.G.Earle發明優點對時鐘扭曲不敏感（相對而言），一般是兩級門延遲，避免了數據通過鎖存器時可能產生的時鐘扭曲在鎖存器中可以執行兩級邏輯運算，而不會增加鎖存器的延遲時間，可以隱藏鎖存器產生的額外開銷Earle鎖存器謝謝！體系結構第3章-第3講課件國家精品資源共享課程：計算機體系結構第三章：流水線技術國防科技大學計算機學院主講人：教授國家精品資源共享課程：計算機體系結構第三章：流水線技術國防科第三章流水線技術第三章流水線技術3.1流水線基本概念3.2MIPS基本流水線3.3流水線中的相關3.4實例分析：MIPSR40003.5向量處理機本章內容本章內容

三項性能指標：吞吐率、加速比和效率1.吞吐率 是衡量流水線速度的重要指標吞吐率是指單位時間內流水線所完成的任務數或輸出結果的數量。最大吞吐率TPmax是指流水線在達到穩定狀態后所得到的吞吐率。設流水線由m段組成，完成n個任務的吞吐率稱為實際吞吐率，記作TP。3.2.3流水線性能分析 三項性能指標：吞吐率、加速比和效率3.2.3流水線性能分（1）最大吞吐率假設流水線各段的時間相等，均為△t0，則：TPmax=1/△t0假設流水線各段時間不等，第i段時間為△ti

，則：TPmax=1/max{△ti}最大吞吐率取決于流水線中最慢一段所需的時間，該段成為流水線的瓶頸消除瓶頸的方法細分瓶頸段重復設置瓶頸段 （時空圖）（1）最大吞吐率（2）實際吞吐率若各段時間相等（假設均為△t0），則完成時間T流水

=m△t0+(n-1)△t0

（說明）時空圖TP＝───＝──────────T流水nm·△t0＋(n－１)△t0n(1＋)△t0

＝────────＝─────m－11TPmaxn1＋nm－1實際吞吐率（2）實際吞吐率TP＝───＝──────────T若各段時間不等（假設第i段為△ti），則完成時間

時空圖T=∑△ti+(n-1)△tj

這里，△tj=max{△ti

}i=1mTP＝──────────∑△ti＋(n－1)△tjmi=1n實際吞吐率若各段時間不等（假設第i段為△ti），則完成時間i=1mTP2.加速比加速比是指流水線速度與等功能的非流水線速度之比。根據定義可知，加速比S=T非流水/T流水若流水線為m段，每段時間均為△t0，則T非流水

=nm△t0，T流水

=m△t0

+(n-1)△t0 S＝

──────

＝───────mnm＋n－1mn1＋

m－12.加速比＝──────＝───────mnm＋n－3.效率效率指流水線的設備利用率。由于流水線有通過時間和排空時間，所以流水線的各段并非一直滿負荷工作，E<1若各段時間相等，則各段效率也相等，即e1=e2=e3=…=n△t0/T流水(解釋)整個流水線效率E

＝───＝──────＝─────n△t0T流水nm＋n－11n1＋

m－1當n>>m時，E≈13.效率E＝───＝──────＝─────n△3.效率從時-空圖上看，效率就是n個任務所占的時空區與m個段總的時空區之比根據這個定義，可以計算流水線各段時間不等時的流水線效率

n個任務占用的時空區

E＝━━━━━━━━━━━

m個段總的時空區3.效率n個任務占用的時空區

E＝━━━━━━━━4.吞吐率、加速比和效率的關系E=n△t0/T流水=mn△t0/(T流水m)=S/m

效率是實際加速比S與最大加速比m之比。E=n△t0/T流水=(n/T流水)·△t0=TP△t0

當△t0不變時，流水線的效率與吞吐率呈正比。為提高效率而采取的措施，也有助于提高吞吐率。4.吞吐率、加速比和效率的關系例3.1

在靜態流水線上計算∑AiBi

，問吞吐率、加速比、效率各是多少？解： (1)確定適合流水處理的計算過程

(2)畫時-空圖

(3)性能計算 吞吐率TP=7/20·△t0

加速比S=34·△t0/20·△t0=1.7

效率E＝(4×4＋3×6)/(8×20)＝0.21i=1m5.流水線性能分析實例例3.1在靜態流水線上計算∑AiBi，問吞吐率、加速i

上述方案性能不高！靜態多功能流水線在對某種功能進行處理時，總有某些段處于空閑狀態功能切換增加了前一種功能的排空時間和后一種功能的通過時間需要把輸出回傳到輸入（相關） 能否通過動態流水線改進其性能？舉例I舉例II 這樣行不行？

正確方案 上述方案性能不高！例3.3

在MIPS的非流水實現和基本流水線中，5個功能單元的執行時間：10/8/10/10/7ns。流水線額外開銷為1ns，求相對于非流水指令實現而言，基本MIPS流水線的加速比是多少？解： T非流水

=10+8+10+10+7=45 T流水

=10+1=11

加速比S=45/11