吞吐量僅在重負載下有意義,但延遲對所有通信、所有負載都至關重要。延遲裝置讓網路變慢,無論利用率 1% 或 100%。應用在延遲達數十毫秒前就已減速。千兆/10G 乙太網介面延遲通常數十~數百微秒,但即使幾微秒延遲也會嚴重降低 TCP 效能,原因在於 TCP 運作機制。
TCP 發送端在收到確認 (ACK) 前,只能發送有限資料量 —— 視窗大小。視窗可含多個封包,但若無收到任何資料的 ACK,發送端完全停止發送。
具體推演 (10G 乙太網,1518 bytes 幀,10% 利用率):
Avaya 與 Force10 兩款 10G 交換機單幀延遲 > 40 微秒。累積 11 跳延遲 > 440 微秒,遠超 135 微秒臨界值,吞吐量必被壓抑。Force10 新韌體將延遲降至 23 微秒 (改進 42%),但對 10Gbps 仍足以降低 TCP 效能。視窗越大 (現代作業系統動態調整可達 MB 級),微小延遲影響越放大。

TCP 擁有「延遲 ACK」、「選擇性確認 (SACK)」等機制緩解延遲影響,但總體而言,長延遲每次都戰勝高吞吐量。
只需三值即可估算:幀長度、TCP 視窗大小、網路利用率。網管可據此量化延遲預算,採購低延遲交換機、優化路由路徑、調整視窗縮放參數,釋放真實頻寬潛力。