HBM

HBMとは、GPU上のメモリダイをロジックチップと積層して近距離に配置する高帯域幅メモリ技術です。通常のGDDR6メモリと比べて、単位面積当たりのメモリ帯域幅が大幅に高く、大規模AIモデルの学習・推論時に必要な大量データを高速にGPUコアへ供給できます。