Remote Direct Memory Access
RDMA
RDMAとは、ネットワーク越しに遠隔ホストのメモリへCPUを介さずに直接アクセスする技術です。通常のTCP/IP通信ではデータがOS・カーネル・CPUを経由するため遅延が生じますが、RDMAではカーネルバイパスによりマイクロ秒単位の低レイテンシ通信が実現できます。
AIインフラではInfiniBand(RDMA対応)やRoCEとして実装され、GPU間の大量データ転送を高速化します。分散学習における勾配同期や、大規模推論クラスターでのKVキャッシュ転送など、レイテンシが性能に直結する場面でRDMAの活用が重要です。




