GPUDirect RDMA
GPUDirect RDMA
GPUDirect RDMAとは、GPUのメモリとネットワークアダプター(NIC)間でCPUとシステムメモリを介さずに直接データ転送を行う技術です。通常の転送ではGPUメモリ→システムメモリ→NICというパスを経由しますが、GPUDirect RDMAによりGPUメモリ↔NIC間の直接転送が可能となり、レイテンシの削減とスループットの向上を実現します。
InfiniBandと組み合わせて分散学習の通信効率を大幅に改善し、大規模GPUクラスターでの学習時間短縮に貢献します。NVIDIAのGPUとMellanox製InfiniBand HCAを組み合わせた構成で最大限の効果を発揮します。




