TurboBus PCIe Bandwidth Pooling
导言
GPU Memory Offloading 有一个很反直觉的现象：应用可能把大部分时间耗在 PCIe 搬运上，同一台服务器却仍有多数 PCIe 带宽处于空闲。问题不在于服务器缺少链路，而在于每块 GPU 只能使用自己名下的那条链路；不同 GPU、不同作业的搬运阶段又往往没有同时到来。
TurboBus 的核心思想，是把 NVLink、NVSwitch 等高速 Scale-Up Fabric 当成一条节点内的转发背板：繁忙 GPU 先把数据送到邻居 GPU，再借邻居的空闲 PCIe 链路访问 Host Memory。本文沿着论文 Figure 1、4、5、6、7 解释这条思路怎样从一张直觉图落成带隔离、流水、调度和 API 的系统，并区分实验已经证明的收益与仍受硬件拓扑、NUMA 和工作负载限制的外推。