AIブームで株式市場が大きく動いている。注目されているのはNVIDIAだけではない。SK hynix、Samsung Electronics、Micron Technologyといったメモリーメーカーに加え、SanDisk、Western Digital、Kioxia、Seagateのようなストレージ関連企業にも投資家の視線が集まっている。
一見すると、HBMとSSDは別の市場に見える。HBMはGPUのすぐ近くでデータを高速に渡すメモリーであり、SSDは大量のデータを保存するストレージである。しかしAIデータセンターという文脈では、両者は同じ課題に向き合っている。それは、GPUに必要なデータを、必要なタイミングで、どれだけ速く供給できるかという課題である。
AI半導体のニュースでは、どうしてもGPUが主役として語られる。しかし、GPUがどれだけ速くても、必要なデータが届かなければ性能は出ない。GPUのすぐ横でデータを渡すのがHBMであり、その手前で膨大なデータを蓄え、読み出すのがSSDである。
つまり、AIデータセンターでは、GPU、HBM、SSDを別々の部品として見るだけでは不十分である。AIに必要なデータをどう保存し、どう読み出し、どうGPUへ渡すのか。その「データ供給網」全体が、AIインフラの性能と投資効率を左右するようになっている。
AIのボトルネックは「計算」だけではなく「データ供給」へ
これまでAIデータセンターでは、GPUの演算性能が注目されてきた。より多くのGPUを並べ、より高速なネットワークでつなぎ、より大きな電力を供給し、より強力な冷却で支える。こうした流れは、AIインフラの基本である。
しかし、AIの処理では、計算そのものと同じくらい、データの読み書きが重要になる。大規模言語モデルでは、モデルの重み、入力データ、中間データ、推論結果を大量に扱う。画像、音声、動画、センサーデータを扱うマルチモーダルAIでは、さらにデータ量が膨らむ。
GPUの演算がどれだけ高速でも、必要なデータが届かなければ、GPUは待ち状態になる。これは高価な設備を遊ばせることを意味するのだ。
AIデータセンターにおいて、データ供給の遅れは、そのまま投資効率の低下につながる。
ここで重要になるのが、GPUに最も近い場所でデータを渡すHBMと、その手前で大量データを蓄えるSSDである。
HBMとSSDは何が違うのか
HBMとSSDは、どちらもAIに必要なデータを扱う技術だが、役割は大きく異なる。
HBMは、High Bandwidth Memoryの略で、日本語では広帯域メモリーと呼べる。GPUのすぐ近くに配置され、GPUが計算する瞬間に必要なデータを高速に供給する。非常に速い一方で、高価で容量は限られる。
一方、SSDはSolid State Driveの略で、大量のデータを保存するストレージである。HBMほど高速ではないが、はるかに大容量で、学習データ、モデル、チェックポイント、推論ログ、ベクトルデータベース、生成データなどを保存する。
たとえるなら、HBMはGPUのすぐ横に置かれた「作業机」である。作業中に必要な部品や資料をすぐ取り出せる場所だ。一方、SSDはAIデータセンターの「巨大な倉庫」である。すべてのデータを机の上に置くことはできないため、倉庫から必要なデータを取り出し、作業机へ運ぶ必要がある。
つまり、HBMはGPUの瞬間的な処理性能を支え、SSDはAIデータセンター全体のデータ蓄積と供給を支える。両者は競合するものではなく、役割の異なるデータ階層なのである。
なぜHBMがAI GPUに不可欠なのか
AI GPUでは、膨大なデータを高速に読み書きする必要がある。そのため、通常のDRAMよりも広い帯域を持つHBMが使われる。
HBMは、複数のDRAMチップを縦に積み重ね、TSVと呼ばれるシリコン貫通電極で上下につなぐ。そしてGPUの近くに配置することで、通常のメモリーよりもはるかに太いデータの通り道を作る。
GPUの演算器をスポーツカーにたとえるなら、HBMは道路の車線数である。車がどれだけ速くても、道路が1車線しかなければ渋滞する。HBMは、GPUにデータを一気に流し込むために、車線数を増やす技術である。
そのため、AI半導体の競争はGPUだけでは完結しない。GPU、HBM、パッケージング、冷却、接続、電力が一体で設計されて初めて、AIインフラとして性能を発揮する。
なぜ今、SSDまで注目されるのか
HBMが注目される理由はわかりやすい。AI GPUのすぐ近くで使われ、GPU性能を直接左右するからだ。一方、SSDはこれまで、どちらかといえば保存装置として見られてきた。そのため、なぜAIブームでSSDまで注目されるのかは、少しわかりにくい。
これを理解するには、背景にAIの利用が学習から推論へ広がっているという事実を知ることが重要だ。
生成AIやAIエージェントが日常的に使われるようになると、モデルを動かすたびに、文書、画像、動画、ログ、ベクトルデータ、過去の会話、社内ナレッジなどを読み出す必要がある。
さらに、大規模モデルの学習では、途中経過を保存するチェックポイントも巨大化している。障害時の復旧や再学習のためには、大量のデータを高速に保存し、必要なときに読み出せるストレージが欠かせない。
RAGやベクトルデータベースの普及も、SSD需要を押し上げる要因になる。企業が社内文書や業務データをAIで活用する場合、データは一度保存され、検索され、必要に応じてAIに渡される。つまりAIは、計算するたびにストレージを参照するようになる。
SSDはAIの計算そのものを行う部品ではない。しかし、GPUが必要とするデータを後方から支え、GPUを待ち状態にしないための重要なインフラになっている。
HBMの難しさは、積層・帯域・熱・歩留まりにある
HBMは、単にメモリー容量を増やす技術ではない。複数のDRAMを縦に積み、GPUの近くで高密度に動かすところに難しさがある。
DRAMチップを薄く加工し、何層にも積み重ねるには、高度な加工精度と接合技術が必要になる。TSVによって上下のチップを接続するため、微細加工、絶縁、信頼性、量産時のばらつき抑制も重要になる。
さらに、HBMはGPUの近くに配置されるため、先端パッケージングが不可欠である。GPUとHBMをつなぐインターポーザ、基板、配線、接合技術が性能と歩留まりを左右する。
熱も大きな課題だ。HBMは積層構造であるため、内部に熱がこもりやすい。しかもAI GPUのすぐ近くで動くため、GPUからの熱の影響も受ける。次世代HBMでは、メモリー内部の熱をどう逃がすかが重要な差別化要素になる。
SSDの難しさは、容量・速度・耐久性・電力にある
SSDはコモディティ化した保存装置に見えるかもしれない。しかし、AIデータセンターで使われるSSDには、一般的なPC向けSSDとは異なる要求がある。
まず、大容量でなければならない。AIデータセンターでは、学習データ、推論ログ、生成データ、チェックポイント、ベクトルデータベースなど、保存すべきデータが急増する。
次に、高速な読み書きが必要になる。GPUがデータ待ちになると、高価なGPUクラスタの稼働率が下がる。特に大量の小さなデータを読み出す処理では、IOPS（１秒間に何回読み書きができるか）や低遅延性能が重要になる。
さらに、耐久性も重要だ。AIワークロードでは、学習や推論の過程で大量の書き込みが発生する。SSDは長時間、高負荷で動き続けるため、書き込み耐久性、発熱、消費電力、故障予兆の検知が問われる。
つまり、AI向けSSDは、単に容量が大きいだけでは不十分である。大容量、高速、低遅延、低消費電力、高耐久を同時に満たす必要がある。
日本企業が見るべき5つの勝ち筋
1. HBM向け材料・封止・接合技術
HBMでは、チップを薄くし、積み重ね、接合し、封止する必要がある。接着材料、封止材料、絶縁材料、低応力材料、熱伝導材料などの重要性が高まる。
2. 先端パッケージング・基板・検査装置
GPUとHBMを近接配置するには、インターポーザ、基板、微細配線、後工程技術が不可欠である。積層前、接合後、パッケージ後の検査装置や品質保証も重要になる。
3. SSD向けNAND・コントローラ・ファームウェア
AIデータセンターでは、NANDそのものだけでなく、SSDコントローラやファームウェアの重要性も増す。負荷に応じたデータ配置、書き込み制御、故障予兆、性能劣化の抑制が価値になる。
4. AIストレージ階層の設計・運用
HBM、DRAM、SSD、HDD、オブジェクトストレージをどう組み合わせるかが、AIデータセンター全体の効率を左右する。どのデータをどこに置き、いつGPUへ渡すかという設計が重要になる。
5. 熱対策・電力制御・品質保証
HBMもSSDも、高速化・高密度化すれば発熱と電力が問題になる。放熱材料、温度監視、電力制御、予兆保全、品質保証は、AIデータセンターの安定稼働を支える重要領域である。
AI時代の利益は、GPUではなく「データ供給網」にも広がっている
AIデータセンターの競争は、GPU単体の性能競争から、データをどう供給するかというシステム全体の競争へ移っている。
HBMは、GPUのすぐ横でデータを高速に渡す作業机である。SSDは、その手前で膨大なデータを蓄え、必要なときに読み出す巨大な倉庫である。どちらか一方だけでは、AIインフラは成立しない。
GPUが速くても、HBMが詰まればAIは止まる。HBMが高速でも、必要なデータがSSDから供給されなければ、GPUは待ち状態になる。AIデータセンターでは、計算資源だけでなく、データの流れ全体が価値を持つ。
AIで儲けるとは、AIモデルを作ることだけではない。AIが巨大化することで、どこに新しい制約が生まれ、どの部品・材料・設備・工程に需要が発生するかを読むことだ。
自社の技術やサービスは、AIそのものではなく、AIにデータを供給する仕組みのどこに入れるのか。
この問いを持てる企業だけが、AIブームを「眺める側」ではなく、「儲ける側」に回ることができる。
IoTNEWS代表
1973年生まれ。株式会社アールジーン代表取締役。
フジテレビ Live News α コメンテーター。J-WAVE TOKYO MORNING RADIO 記事解説。など。
大阪大学でニューロコンピューティングを学び、アクセンチュアなどのグローバルコンサルティングファームより現職。
著書に、「２時間でわかる図解IoTビジネス入門（あさ出版）」「顧客ともっとつながる(日経BP)」、YouTubeチャンネルに「小泉耕二の未来大学」がある。
