AIデータセンターストレージアーキテクチャ：HBM、DRAM、SSD、HDDはそれぞれ何を担うのか？

AIデータセンターはGPUとHBMだけでは動作しません。HBM、DRAM、SSD、HDDからなる階層型ストレージアーキテクチャに依存しています。ストレージ層がコンピューティングチップに近いほど、帯域幅、レイテンシ、電力効率が重視されます。データレイクやアーカイブ層に近いほど、容量、信頼性、テラバイトあたりのコストが重視されます。これら4種類のストレージがどのように役割を分担しているかを理解すれば、AIサーバーのボトルネック、クラウドのCAPEX、メモリ企業が恩恵を受ける可能性のある順序、そしてなぜAIがHBM、NAND、HDDの需要を同時に牽引するのかをより的確に判断できるようになります。

主なポイント

• HBMはGPUの近くで高帯域幅のコンピューティングを処理するものであり、長期データストレージではありません。
• DRAMはCPU側のシステムメモリ、スケジューリング、前処理、キャッシュのオーバーフローをサポートします。
• SSDはホットデータ、モデルのロード、チェックポイント、高速な永続アクセスを処理します。
• HDDはコールドデータ、アーカイブ、バックアップ、大容量データレイクのためのコスト基盤であり続けます。
• AI推論は、HBM、DRAM、SSD、HDDの需要を同時に増加させる可能性があります。
• どのストレージセグメントが最初に恩恵を受けるかを判断するには、ボトルネックがどこで発生するかを特定する必要があります。

AIデータセンターストレージアーキテクチャとは：GPUのHBMからコールドデータ用HDDまで

AIデータセンターストレージアーキテクチャは階層型システムです。HBMはGPUやAIアクセラレータに最も近い位置にあり、高帯域幅のデータ供給を提供します。CPU側のDRAMはシステムメモリとタスクスケジューリングをサポートします。サーバーやストレージノード内のSSDは、頻繁にアクセスされるデータを保持します。より大規模なデータレイク、バックアップ、アーカイブはHDDに依存しています。これら4つの階層は互いの代替品ではありません。速度、容量、コスト、アクセス頻度に基づいて連携して機能します。

Micron AI data centerは、AIインフラストラクチャを完全なメモリおよびストレージ階層として説明しています。この捉え方は重要です。AIワークロードは、すべてのデータを最速の媒体に格納するわけではありません。代わりに、異なる種類のデータは、それぞれ最も適した場所に配置されます。

なぜGPUとHBMだけに注目してはいけないのでしょうか? AIトレーニングではデータセットを継続的に読み込む必要があるため、SSDやネットワークストレージがGPUの稼働率に影響します。AI推論ではユーザーコンテキスト、ログ、キャッシュを処理する必要があるため、DRAMとSSDがスループットに影響します。モデルファイル、トレーニングデータ、監視ログ、ベクトルデータ、過去のインタラクション履歴も、長期的にHBM内に留めておくことはできません。実際のデータセンターは、コンピューティング性能、容量、エネルギーコストのバランスを考慮して設計されています。

一般的な誤解が4つあります。第一に、HBMが増えてもSSDが不要になるわけではありません。第二に、SSDが安くなっても、すぐにHDDが淘汰されるわけではありません。第三に、DRAMは従来のサーバーメモリだけのものではなく、AI推論において重要な役割を果たします。第四に、AIストレージ需要は学習だけから生まれるものではありません。推論、ログ、そしてデータのフィードバックループからも生まれます。実際には、AIのデータフローは循環しています。生データがストレージ層に入り、クレンジングされ、読み出され、学習に使われ、モデルへと変換されます。それらのモデルは推論に使用され、推論結果から新たなログやフィードバックデータが生成され、ストレージシステムに戻ってくるのです。

概要： AIデータセンターには階層型ストレージが必要です。なぜなら、データの種類によってアクセス頻度、レイテンシ要件、コスト制約が異なるからです。HBMはGPU近傍の帯域幅ボトルネックを解決します。DRAMはシステムメモリおよびスケジューリングのボトルネックを解決します。SSDはホットデータと高速永続化のボトルネックを解決します。HDDは長期にわたる大規模データ保存のコストボトルネックを解決します。この階層型アーキテクチャを理解することは、単一のストレージ製品を個別に分析するよりも現実的です。

HBMの役割とは：GPUの近くに置かれる高帯域幅メモリ

HBMは、AIアクセラレータ向けの最前線でのデータ供給を担っています。ハードディスクではなく、通常のサーバーメモリでもありません。GPU、AI ASIC、高性能コンピューティングチップに直接データを供給する高帯域幅メモリです。大規模モデルの学習や推論の際、演算コアは常に重み、アクティベーション、キャッシュデータを読み込みます。データの供給が追いつかなければ、GPUの演算能力は遊休状態になります。HBMの価値は、この待ち時間を短縮することにあります。

HBMの基本的なアイデアは、複数のDRAMダイを垂直に積層し、広いインターフェースと先進的なパッケージング技術を通じてコンピュートチップに接続することです。Samsung HBM4Eの資料によると、次世代のHBM4EはAI、GPU、高性能コンピューティングをターゲットとしており、帯域幅は4.0 TB/sレベルを目指しています。これらの指標が示すように、HBM競争はもはや容量だけの問題ではありません。帯域幅、消費電力、パッケージング、そして安定した供給もまた重要な要素となっています。

しかし、HBMのボトルネックは価格だけではありません。先端プロセス技術、積層、TSV、パッケージング、テスト、歩留まり、そして顧客認定によっても制約されています。GPUやAI ASICのサプライチェーンに参入するには、通常、長い検証サイクルが必要です。サプライヤーはサンプルを生産するだけでなく、高電力・高温・高同時実行の条件下で自社製品が確実に動作することを証明しなければなりません。Samsung、SK hynix、Micronが主要なHBMサプライヤーですが、各社は製品世代、歩留まり、顧客認定、生産能力の配分などが異なる場合があります。

HBMを追跡する際には、「強い需要」という言葉だけを見るべきではありません。より有用な指標には、HBM3E、HBM4、HBM4Eの生産タイムライン、1パッケージあたりの容量、帯域幅、顧客認証、組立（パッケージング）能力、歩留まり、価格プレミアム、そして各メモリ企業の事業におけるHBM収益の割合などが含まれます。HBMの供給が逼迫しており、顧客認定が順調に進んでいれば、収益レバレッジはより強くなり得ます。一方、設備投資が速すぎたり、顧客が設計を変更したりすれば、バリュエーションも急速に調整される可能性があります。

概要: HBMは、AIデータセンターにおいてコンピュートコアに最も近い高帯域幅メモリ層です。主にGPUやAIアクセラレータ向けのデータ供給を担います。トレーニング、推論、長いコンテキスト、複数GPUの連携において重要ですが、パッケージング、歩留まり、消費電力、容量、顧客認証によって制約を受けます。HBM需要の拡大は、通常、強力な量産能力を持つ先端メモリの大手企業に最も直接的な恩恵をもたらします。すべてのストレージ企業が等しく恩恵を受けるわけではありません。

DRAMの役割とは：CPU側のシステムメモリとスケジューリングバッファ層

DRAMはAIサーバーにおいて、CPU側のシステムメモリ、タスクオーケストレーション、データ前処理、キャッシュオーバーフローを支えています。HBMほどGPUに近い存在ではありませんが、サーバーがデータを整理し、リクエストをスケジューリングし、I/Oを管理し、キャッシュ圧力の一部を吸収できるかどうかを左右します。DRAMが十分にない場合、GPUは高い演算能力を持ちながらも、安定したシステムレベルのデータおよびタスクのサポートを欠くことになります。

HBM と DRAM の違いは、配置と機能から理解することができます。HBM は GPU や AI アクセラレータの近くに搭載され、極めて高い帯域幅と低レイテンシを優先します。一方、DRAM は CPU およびホストシステム側に搭載され、より大容量のシステムメモリ、より柔軟なタスクスケジューリング、およびより低い単位コストを優先します。Micron COMPUTEX 2026 の資料では、HBM が高速なモデル実行およびホット KV キャッシュをサポートし、LPDDR と DDR がシステムメモリ、オーケストレーション、および長いコンテキストの拡張をサポートすることが言及されています。

AI推論はDRAM需要を増大させています。なぜなら、推論は単に「モデルを一度実行する」ことではないからです。ユーザーの同時実行数が増加し、コンテキストウィンドウが長くなり、エージェントワークフローが増えるにつれて、システムはより多くのリクエスト、キャッシュ、ネットワークI/O、入力前処理、出力ログを管理しなければなりません。KVキャッシュは、AIモデルの短期記憶としてよく説明されます。入力シーケンスが長くなるほど、キャッシュとデータ管理の負荷は大きくなります。ホットキャッシュの一部はHBMに保持されますが、一部はDRAM、SSD、またはより下位の階層に溢れる場合があります。これは推論システムアーキテクチャにおける一般的な方向性です。

DDR5は依然としてサーバーシステムメモリの重要な基盤です。LPDDRは低消費電力AIデバイスや新しいモジュール形式において役割を果たす可能性があります。CXLはメモリ拡張とメモリプーリングにおける将来の可能性を提供します。例えば、Marvell CXLスイッチは、CPU、GPU、XPU、その他のアクセラレータで利用可能なメモリを拡張するためのラックレベルのメモリプーリングに注目しています。これは、AIメモリのボトルネックが個々のチップからラックやクラスターへと拡大していることを示しています。

要約: DRAMはAIデータセンターにおけるシステムメモリおよびバッファ層です。CPU側のスケジューリング、データの前処理、リクエスト管理、そしてキャッシュの一部のオーバーフローを支えています。HBMほどGPUに近い存在ではありませんが、推論の同時実行、長いコンテキスト、I/O管理、サーバーの安定稼働において重要です。DRAMの需要を判断するには、HBMの勢いだけでなく、AIサーバー、従来型サーバー、PC、スマートフォン、データセンターメモリの拡張傾向を考慮する必要があります。

SSDの役割とは：ホットデータ、モデルファイル、高速な永続ストレージ

SSDは、AIデータセンターにおける高速な永続ストレージを担当します。HBMやDRAMより低速ですが、電源遮断後もデータを保持できます。HDDより高速ですが、容量あたりのコストは高くなります。したがって、SSDは、モデルファイル、学習サンプル、チェックポイント、ホットデータ、ログ、一部の永続KVキャッシュなど、高速な読み書きが必要な、アクセス頻度の高いパフォーマンス重視のデータに最適です。

Solidigm推論コンテキストメモリストレージでは、AI推論におけるコンテキストストレージを新たなフラッシュストレージの課題として説明しています。その核心的な考え方は、コンテキストとキャッシュがHBMやDRAMの容量を超えて拡大した場合、GPUポッドの近くに配置された高密度SSDが推論能力を拡張するための重要な層になるというものです。NVIDIA BlueField-4 CMXもまた、GPU HBM、システムDRAM、そしてローカルまたはラック接続のストレージを、同一の推論コンテキスト階層の中に位置づけています。これは、SSDが従来のハードディスクの単なる代替品ではなく、AI推論アーキテクチャの一部であることを示しています。

エンタープライズ向けSSDとコンシューマー向けSSDの違いも重要です。AIデータセンターは、表面上の読み取り速度よりも、持続的な書き込み性能、電源喪失保護、低テールレイテンシ、耐久性、熱特性、フォームファクターを重視します。U.2、E1.S、E3.S、PCIe Gen5/Gen6、QLC、TLCはすべて、ラック密度、消費電力、テラバイトあたりのコストに影響を与えます。大容量SSDはラックあたりの容量と性能密度を向上させることができますが、長期アーカイブや低頻度アクセスのデータについては、そのコストは依然としてHDDより高くなるのが通常です。

SSDは、GPUの傍に置かれる高帯域幅メモリ（HBM）に比べてレイテンシと帯域幅がはるかに劣るため、HBMを代替することはできません。また、汎用のシステムメモリとして適していないため、DRAMの代替にもなりません。SSDは、特にモデルのロード、ホットデータへのアクセス、チェックポイント保存、キャッシュの拡張といった一部の高頻度のHDDワークロードを代替することができます。投資の観点から見ると、SSDの需要は、エンタープライズSSDの調達、NANDの価格、QLCの採用、データセンター顧客の受注、NANDの在庫、粗利益率を通じて判断すべきであり、AIサーバーの出荷台数だけでは判断できません。

要約: SSDはAIデータセンターにおける高速な永続化レイヤーです。主にホットデータ、モデルのロード、トレーニングデータの読み取り、チェックポイント、ログの書き込みを担当します。SSDはメモリ層と長期ストレージ層をつなぐ役割を果たします。HBMやDRAMを代替することはできず、HDDを完全に代替することもできません。SSDの中核的な価値は、速度・容量・永続性のバランスを取ることにあり、特に推論の増大がもたらすコンテキストやホットデータの負荷という状況下で重要となります。

HDDの役割とは: 大量データ、アーカイブ、バックアップ、そしてAIデータのループ

HDDは、AIデータセンターにおいて大容量・低コスト・長期保存のデータ層を担います。HBM、DRAM、高性能SSDの代替には適していませんが、生の学習データ、履歴ログ、動画、バックアップ、アーカイブ、オブジェクトストレージ、コールドデータには依然として不可欠です。AIが生成するデータが増えるほど、低コストで水平スケール可能な容量基盤の必要性が高まります。

HDDがAI時代において消滅していないのには、シンプルな理由があります。すべてのデータをSSDに保存する価値があるわけではないのです。モデルのトレーニングには大量の生データが必要です。推論サービスでは、ログ、ユーザーインタラクション、監視データ、フィードバックデータが継続的に生成されます。マルチモーダルAIはさらに多くの画像、音声、動画ファイルを生み出します。これらのデータセットの一部は高速なアクセスを必要としますが、その他は長期保存のみを必要とします。後者にとっては、HDDの容量コストパフォーマンスが依然として重要な意味を持ちます。Seagateの大容量ストレージは、AIのスケーリングには大規模なデータ保存を支える大容量ハードディスクが必要であると強調しています。

HDD技術は改良を続けています。HAMR、ePMR、SMR、UltraSMRは、ドライブあたりの容量の増大、テラバイトあたりのコスト削減、データセンターのエネルギーおよびスペース効率の向上を目指しています。Western DigitalのAI時代のストレージイノベーションでは、AI規模のワークロードに向けたUltraSMR、ePMR、HAMR、およびソフトウェア抽象化レイヤーが紹介されています。また、Seagateの32TBドライブは、AI動画、NAS、データセンターのユースケースに向けて大容量HDDが進化を続けていることを示しています。

HDDの投資ロジックはHBMとは異なります。HBMは帯域幅、パッケージング、顧客認証が課題ですが、HDDはドライブあたりの容量、クラウド顧客の購買、テラバイトあたりのコスト、容量規律、粗利益率が重要です。AIデータセンターはより高速な推論を追求すると同時に、より多くのデータを生成しており、コンピュート、生成、ストレージ、再学習のループを形成しています。このループが大きくなるほど、コールドデータとニアラインストレージが消えることはなくなります。

概要： HDDはAIデータセンターの容量の基盤です。長期保存、アーカイブ、バックアップ、コールドデータ、オブジェクトストレージを担います。最低レイテンシの実現や高帯域幅のコンピューティング処理を目指すものではありませんが、テラバイトあたりのコストと大規模な容量拡張において依然として優位性があります。SSDとHDDは単純な代替関係ではありません。SSDはホットデータと高速アクセスを担当し、HDDは長期データと容量の経済性を担当します。

ストレージアーキテクチャから投資ロジックを分析する：HBM、DRAM、SSD、HDDの優先順位をどう判断するか

投資の観点から見ると、HBM、DRAM、SSD、HDDのどのセグメントが最も恩恵を受けるかは、AI需要のボトルネックがどこに現れるかによって決まります。ボトルネックがGPUのデータ転送にある場合、HBMが最も直接的な受益者となります。ボトルネックが推論の同時実行数やシステムスケジューリングにある場合、DRAMの重要性が高まります。ボトルネックがモデルのロードやホットデータにある場合、SSDがより重要になります。ボトルネックが長期的なデータ保存やコストにある場合、HDDがより重要になります。

AIのトレーニングとAI推論は、スタックの異なる部分の恩恵を受けます。トレーニングはGPU、HBM、トレーニングデータの読み取り、チェックポイントストレージにより依存しています。推論は同時実行数、コンテキストキャッシュ、ホットデータへのアクセス、ログの保持により依存しています。マルチモーダルAIは、画像、動画、音声のストレージ需要を増大させます。エージェントワークフローと企業のナレッジベースは、ベクターデータ、インタラクション記録、長期コンテキストを保存するニーズを高めます。時間の経過とともに、標準化された推論ワークロードによりSSDとHDDの需要はより安定する可能性がありますが、HBMは個々のGPUプラットフォームのサイクルや顧客認証により結びついています。

投資家が最も陥りやすい間違いは、すべての「AIストレージ」を一つのロジックにまとめてしまうことです。メモリチップ企業、エンタープライズSSDベンダー、HDD企業、エンタープライズストレージシステムプロバイダーは、それぞれ収益レバレッジとバリュエーションのロジックが異なります。製品ポジション、価格サイクル、在庫の変化、設備投資、顧客の集中度、取引コストを総合的に見る必要があります。

AIデータセンターストレージチェーンにおけるHBM、DRAM、SSD、HDDの銘柄をフォローする場合は、業界トレンドだけでなく、実際の取引コストも評価する必要があります。米国株の取引コストには、手数料以外のものが含まれることがよくあります。プラットフォーム手数料、外部エージェント手数料、取引活動手数料、ビッド・アスク・スプレッド、外国為替換算コストなども含まれる場合があります。米国株市場データを利用して、Micron、Western Digital、Seagate、Samsung ADR、または関連ETFを比較し、その後、Biya米国株取引手数料でコミッション、プラットフォーム手数料、外部エージェント手数料、注文表示コストを確認できます。Biyaの米国株式取引の手数料は0ドルですが、プラットフォーム手数料、外部機関手数料、その他のコストについては、料金の開示および注文ページをご確認ください。

要約： AIストレージ投資分析は、HBMのみ、あるいは一般的な「データ増大」のみに焦点を当てるべきではありません。HBMは帯域幅に対応し、DRAMはシステムメモリと推論のサポートに対応し、SSDはホットデータと高速な永続化に対応し、HDDは容量の経済性と長期保存に対応します。より有用なアプローチは、まずデータセンターのボトルネックを特定し、それを製品、企業、価格サイクル、バリュエーション、そして実際の取引コストに対応付けることです。

AIデータセンターストレージアーキテクチャを分析する際、単一のホットスポットを追いかけるのではなく、HBM、DRAM、SSD、HDDを同じ階層マップ上に配置することができます。GPUに近い階層ほど、帯域幅とレイテンシへの依存度が高くなります。データレイクに近い階層ほど、容量とコストへの依存度が高くなります。米国上場および香港上場のメモリチップ、エンタープライズSSD、HDD、データセンターインフラ関連企業を比較したい場合は、Biyaで関連資産を確認し、香港株式市場データでアジアの半導体およびハードウェア銘柄を追跡することができます。また、Biyaアプリをダウンロードして、ウォッチリストや取引記録を管理することもできます。サービスの利用可否は、ユーザーの所在地、本人確認の結果、プラットフォームの規則、および適用される法令によって異なります。公開されている市場情報、取引ルール、および手数料体系は分析の参考としてのみ提供されており、投資助言を構成するものではありません。

よくある質問（FAQ）

AIデータセンターにはHBMとDRAMの両方が必要なのはなぜですか？

AIデータセンターにはHBMとDRAMの両方が必要です。それは、両者が異なる場所に配置され、異なる役割を担っているためです。HBMは主に高帯域幅のGPUコンピューティングをサポートし、一方DRAMは主にCPU側のシステムメモリ、スケジューリング、前処理、キャッシュのオーバーフローをサポートします。HBMは高速ですが高価であり、一方DRAMはシステムレベルの容量確保と柔軟なオーケストレーションに適しています。

AI推論の成長はSSD需要を増加させますか？

はい。AI推論の成長により、モデルのロード、ホットデータへのアクセス、ログの書き込み、ユーザーコンテキストの保持、一部の永続キャッシングに対する需要が高まる可能性があります。SSDは速度、容量、不揮発性ストレージのバランスに優れているため、ホットデータ層に適しています。ただし、実際の需要はモデルのアーキテクチャ、同時実行数、キャッシング戦略に左右されます。

AIデータセンターにおけるHDDには依然として投資価値があるか?

適切な条件の下では、HDDにはAIデータセンターにおいて依然として投資価値がある可能性があります。HDDは高帯域幅のコンピューティングや低レイテンシのホットデータアクセスには適していませんが、生データ、アーカイブ、バックアップ、コールドデータ、オブジェクトストレージの分野では、テラバイトあたりのコスト面で優位性があります。クラウド顧客の調達動向、ドライブあたりの容量、粗利益率が注目すべき重要な要素です。

HBM需要の伸びはすべてのメモリ企業に利益をもたらすのか？

必ずしもそうではありません。HBM需要は、高度なHBM量産技術、パッケージングのパートナーシップ、歩留まり管理、顧客認証の能力を持つ企業に主に利益をもたらします。通常のNAND、HDD、ニッチなメモリ企業は、それぞれ異なる形で利益を得る道筋があり、同じ論理で一括りにすべきではありません。投資家は各企業の製品ミックスと収益への露出度を精査すべきです。

一般の投資家はAIメモリサイクルをどのように追跡できるのか？

一般投資家は、HBM認証の進捗、DRAMおよびNANDの価格、エンタープライズSSDの調達、ニアラインHDDの出荷能力、クラウドプロバイダーのCAPEX、メモリ企業の粗利益率を追跡できます。単一の指標だけでサイクル全体を判断することはできません。価格、在庫、設備投資、バリュエーションのシグナルを組み合わせて判断するのが望ましいでしょう。

AIデータセンターのストレージアーキテクチャはETFの選択に影響しますか？

はい。HBMとDRAMに傾斜したETFはメモリチップの価格サイクルにより敏感ですが、SSD、HDD、またはエンタープライズストレージシステム企業を対象とするファンドは、設備投資やデータセンターインフラのロジックをより強く反映する可能性があります。選択にあたっては、投資家は保有銘柄、経費率、地域別エクスポージャー、集中度、リスク開示を確認すべきです。