もう少し詳しく
「HBM(High Bandwidth Memory、高帯域幅メモリー)」とは、AIの計算処理に使われる半導体(GPUやAIチップ)のすぐそばに配置され、極めて高速にデータをやり取りできるように設計されたメモリー(データを一時的に記憶しておく部品)の規格です。複数のメモリーチップを縦に積み重ねる構造を採用することで、従来のメモリーより一度に大量のデータを高速でやり取りできるようにしています。
どこで使われるか
HBMは、AIの学習・推論を行う高性能なGPUやAIチップに組み込まれる形で使われています。AIモデルは計算の途中で膨大な量のデータをメモリーとの間でやり取りする必要があるため、メモリーの読み書き速度がボトルネック(処理速度を制限する要因)になりやすく、HBMのような高速メモリーの搭載量・性能が、AIチップ全体の処理能力を左右する重要な要素になっています。
身近な例
私たちが日常的に使うスマートフォンやAIチャットサービスの裏側では、データセンターに設置された大量のAIチップが計算を行っています。これらのAIチップの多くにHBMが搭載されており、AIチップメーカーが新製品を発表する際に「メモリー容量○○GB」「帯域幅○○GB/秒」といった数字が強調されるのは、HBMの性能がAIの処理速度に直結するためです。近年は、AI向け需要の急増によってHBMの世界的な供給不足と価格上昇が続いており、パソコンやスマートフォンに使われる一般的なメモリー(DRAM)の価格にも影響を及ぼしています。
注意点
HBMの搭載量や帯域幅の数字が大きいほど高性能に見えますが、実際のAI処理速度はHBM単体の性能だけでなく、チップ全体の設計や、複数チップを連携させる際の通信効率など、さまざまな要素の組み合わせで決まります。メーカーが発表する数字を比較する際は、単一の指標だけで優劣を判断せず、独立した第三者機関によるベンチマーク結果もあわせて確認することが望ましいといえます。
