NVLink

NVLinkとは、NVIDIAが開発したGPU間を高速に接続するための独自インターコネクト技術です。PCI ExpressよりもはるかにGPU間の帯域幅が広く、複数のGPUがメモリ空間を共有しながら協調して動作できます。

H100ではNVLink 4.0を採用しており、最大900GB/sの双方向帯域幅を実現します。大規模LLMの学習ではモデルを複数GPUに分散させる必要があるため、NVLinkによる高速GPU間通信がトレーニング速度に直結する重要な技術です。