10 / 24 · 概念
延遲、吞吐量與啟動間隔
分開計算單筆交易的延遲與持續完成速率。
單元可免費閱讀,註冊課程即可儲存學習進度。
更早完成與更頻繁完成是不同概念
延遲衡量從接受一筆輸入到交付其輸出的時間。吞吐量計算每段觀測時間內交付的交易數。啟動間隔 II 是兩次新啟動之間最小的週期間距。延遲使用週期或奈秒,吞吐量使用每週期或每秒交易數,II 使用每筆交易所需週期數。
此處所有傳輸都發生在上升緣。在兩個暫存器的管線中,邊緣 0 接受的輸入會在邊緣 1 之後可見,並於邊緣 2 傳輸。接受到交付的延遲是兩個週期。不同級可同時處理不同交易,因此填滿且沒有停頓的管線,每個邊緣都會交付一個結果。II=1 並不表示 latency=1。
| 結構 | 交付延遲 | II | 無停頓時的持續吞吐量 |
|---|---|---|---|
| 單暫存器運算單元 | 1 個週期 | 1 | 1 筆交易/週期 |
| 兩級管線 | 2 個週期 | 1 | 1 筆交易/週期 |
| 共用資源的四邊緣運算 | 取決於介面排程 | 大於 1 | 小於 1 筆交易/週期 |
比較實體速率時,應納入時脈週期。假設組合運算需要六奈秒,暫存器額外延遲加上裕度需要 0.5 ns。單級估計週期為 6.5 ns。均衡的三奈秒級則估計為 3.5 ns。兩者的 II 都是 1,分別得到約每秒 153.8 與 285.7 百萬筆交易。然而,單筆延遲可能從 6.5 增加到七奈秒。這些是示意計算,並非實作時序的量測值。
最慢的一級會限制時脈。五加一的分割估計為 5.5 ns,比均衡分割更差。額外暫存器也會增加額外延遲、繞線與控制成本;應檢查實際實作時序。
若四筆輸入在邊緣 0 到 3 被接受,輸出就會在邊緣 2 到 5 傳輸。啟動與排空會影響短批次。應指定量測時間窗。有停頓時,各交易的延遲不同,而只呈現卻未被接受的輸入不能計入。在最佳化疑似瓶頸之前,先分別記錄輸入接受、輸出交付與停頓週期。
自己試試看
對 II=1、時脈週期為四奈秒的三級管線,求持續吞吐量與交付延遲。若第一筆輸入在邊緣 0 被接受,第五筆輸出會在哪個邊緣交付?
查看解說
吞吐量為每秒 250 百萬筆交易,延遲為 12 ns。假設沒有停頓,第五筆輸入在邊緣 4 被接受,並於邊緣 7 交付。