用語集

InfiniBand

InfiniBand

InfiniBandとは、高い帯域幅と低レイテンシを特徴とするサーバー間通信技術で、GPUクラスターのノード間ネットワークとして広く採用されています。現行のNDR InfiniBandは最大400Gb/sの帯域幅を提供し、RDMA(リモートダイレクトメモリアクセス)によりCPUを介さずにGPU間で直接データを転送できます。

大規模LLM学習では数千億パラメータの勾配データをノード間で頻繁に転送するため、InfiniBandの高帯域幅・低レイテンシ特性が学習時間を大きく左右します。NVIDIAはMellanox買収によりInfiniBand事業を取り込んでいます。

CONTACT

お問い合わせ

GPU導入・AI活用にお悩みの方は
お気軽にご相談ください。

課題に合わせた「最適な計算環境」と
「AI実装プラン」をご案内します。