NVIDIA NVSwitch
NVSwitch
NVSwitchとは、NVIDIAが開発したGPU間のAll-to-All通信を実現するスイッチチップです。DGXシステムなどで複数のGPUをフルメッシュ接続するために使われ、NVLinkと組み合わせることで高い通信帯域幅を全GPUペア間で均等に確保します。
H100を8枚搭載するDGX H100では第3世代NVSwitchが採用されており、1ノード内のGPU間通信ボトルネックを解消します。大規模分散学習において通信効率を高める基盤技術として重要な役割を果たしています。




