NVIDIA拓扑演进笔记

TOC无NVLINK的16卡互联拓扑基于PCIe Switch级联可以实现16卡GPU互联CPU间互联取决于所选用的CPU型号Intel CPU一般采用UPIAMD CPU采用xGMI。同一颗PCIe树的两颗GPU可以采用GPUDirect P2P实现互联。IB NIC直接挂在CPU PCIe接口最好与PCIe Switch在同一个NUMA域。P100 GPU 8卡互联拓扑(NVLINK)NVIDIA DGX A100英伟达HGX B300拓扑