Bagaimanakah Pelayan AI Mendorong Permintaan Storan? Peranan HBM, DRAM Pelayan, SSD Perusahaan, dan HDD

Infrastruktur storan pelayan AI dan pusat data

Pelayan AI mendorong permintaan storan bukan semata-mata kerana "bilangan pelayan yang lebih banyak," tetapi kerana latihan, inferens, data multimodal, pengambilan RAG, dan integrasi data peribadi perusahaan semuanya menyebabkan data bergerak dengan kerap merentasi GPU, CPU, memori, SSD, dan HDD. HBM menyelesaikan botleneck lebar jalur di sisi GPU. DRAM pelayan menyokong beban kerja sisi sistem. SSD perusahaan mengendalikan data panas dan cache inferens. HDD menyediakan kapasiti untuk tasik data dan arkib. Jika anda mengikuti infrastruktur AI atau rantaian bekalan storan, anda perlu melihat kelajuan, kapasiti, kos, penggunaan kuasa, dan kitaran bekalan secara serentak.

Perkara Utama

  • Pelayan AI meningkatkan permintaan untuk storan berjalur lebar tinggi, kependaman rendah, dan berkapasiti tinggi.
  • HBM berkait rapat dengan pengkomputeran GPU, dengan lebar jalur, kapasiti, dan kecekapan sebagai pemacu utama.
  • DRAM pelayan menyokong CPU, penjadualan, caching, pangkalan data, dan rangka kerja perkhidmatan inferens.
  • SSD perusahaan mengendalikan data panas, checkpointing, carian vektor, dan sesuai beban kerja KV cache.
  • HDD kekal sebagai asas kapasiti untuk tasik data AI, sandaran, arkib, dan data suam/sejuk.
  • Analisis pelaburan tidak sepatutnya hanya menjejak kenaikan harga, tetapi juga pesanan, kapasiti, inventori, dan penilaian.

Mengapa Pelayan AI Mendorong Permintaan Storan?

Rak pelayan AI dan aliran data

Sebab utama pelayan AI mendorong permintaan storan ialah beban kerja AI telah berkembang daripada semata-mata "mementingkan pengiraan" kepada "mementingkan data + mementingkan memori + mementingkan storan." Latihan memerlukan pembacaan berterusan set data yang besar. Inferens memerlukan pemuatan berat model dan pengekolan keadaan konteks. Model multimodal memproses imej, audio, video, dan log. Menambah lebih banyak GPU sahaja tidak mencukupi. Data mesti bergerak merentasi HBM, DRAM, SSD, dan HDD secara berlapis supaya sumber pengiraan dapat terus beroperasi dengan cekap.

Pelayan tradisional sering menghadapi kesesakan pada CPU, rangkaian, atau I/O cakera. Kesesakan pelayan AI lebih kompleks. GPU boleh melaksanakan pengiraan matriks berskala besar dalam tempoh yang sangat singkat, tetapi jika berat model, pengaktifan, cache KV, sampel latihan, atau checkpoint tidak dapat sampai ke unit pengiraan tepat pada masanya, GPU akan menunggu data. Anda boleh membayangkan pusat data AI sebagai corong berlapis: HBM yang paling hampir dengan GPU ialah lapisan yang paling pantas dan paling mahal; DRAM di bahagian CPU menawarkan kapasiti lebih besar tetapi lebar jalur lebih rendah; SSD NVMe mengendalikan data panas dan bacaan/penulisan berlatensi rendah; HDD menyediakan kolam kapasiti berskala besar pada kos yang rendah.

Spesifikasi GB300 NVL72 NVIDIA menggambarkan trend ini. Sistem berskala rak mengintegrasikan 72 GPU Blackwell Ultra, 36 CPU Grace, memori pantas 37TB, memori GPU 20TB, dan memori CPU 17TB dalam seni bina yang sama. Dalam erti kata lain, pelayan AI bukan lagi sekadar "GPU yang dipasang pada papan induk." Ia adalah sistem data berskala rak di mana GPU, CPU, memori, interconnect, dan storan direka bersama.

Senario AI yang berbeza sepadan dengan lapisan storan yang berbeza:

Senario AI Data Utama Metrik Utama Lapisan Storan Utama
Latihan model besar Set latihan, parameter, pengaktifan Lebar jalur, throughput, kestabilan HBM, DRAM, SSD, HDD
Penalaan halus model Data peribadi, checkpoint Kelajuan baca/tulis, kelajuan pemulihan SSD, DRAM, HDD
Inferens dalam talian Berat model, KV cache Keterlambatan, konkurensi, kapasiti HBM, DRAM, SSD
Pengambilan RAG Indeks vektor, pustaka dokumen IOPS, keterlambatan pertanyaan Enterprise SSD, DRAM
AI Multimodal Imej, video, audio Kapasiti, throughput, kos SSD, HDD
Sandaran dan pengarkiban Versi sejarah, log, data pematuhan $/TB, kebolehpercayaan HDD, storan objek

Dalam rantaian ini, HBM mengendalikan "data yang paling pantas," DRAM pelayan mengendalikan "data aktif di sisi sistem," SSD perusahaan mengendalikan "bacaan/tulisan yang kerap dan data panas," manakala HDD mengendalikan "data jangka panjang berkapasiti besar." Oleh itu, pelayan AI tidak hanya memberi manfaat kepada satu kategori storan sahaja. Ia menyusun semula keseluruhan piramid storan.

Ringkasan: Pelayan AI mendorong permintaan storan bukan hanya kerana bilangan pelayan semata-mata, tetapi kerana beban kerja AI mengembangkan skala data, kekerapan akses, panjang konteks, dan serentakan sistem secara serentak. Latihan memerlukan input data berdurchput tinggi. Inferens memerlukan penyimpanan sementara berlatensi rendah dan konteks yang lebih panjang. Model multimodal memerlukan lebih banyak bahan mentah untuk disimpan. AI perusahaan juga membawa data persendirian ke dalam sistem model. HBM, DRAM pelayan, SSD perusahaan, dan HDD masing-masing menyelesaikan masalah pada lapisan yang berbeza. Semakin hampir lapisan tersebut kepada GPU, semakin penting lebar jalur dan latensi. Semakin hampir lapisan tersebut kepada tasik data, semakin penting kapasiti, kos, dan kebolehpercayaan.Apabila menganalisis permintaan storan AI, anda patut memisahkan permintaan berpandukan kelajuan daripada permintaan berpandukan kapasiti, dan bukannya menganggap bahawa satu jenis storan akan menggantikan semua jenis yang lain.

Masalah Apa yang Diselesaikan oleh HBM dalam Pelayan AI?

Permintaan cip memori HBM dan pelayan

Peranan HBM dalam pelayan AI adalah untuk menyelesaikan "dinding lebar jalur" dan "dinding kapasiti memori" di sisi GPU. Semakin besar model AI, semakin banyak ruang diperlukan untuk parameter, pengaktifan, dan cache KV-nya. GPU perlu membaca sejumlah besar data dalam tempoh yang sangat singkat. HBM terletak berhampiran pakej GPU dan menawarkan lebar jalur yang jauh lebih tinggi berbanding DRAM pelayan biasa, jadi ia secara langsung mempengaruhi throughput latihan, serentak inferens, keupayaan konteks panjang, dan kos setiap token.

Anda boleh membayangkan HBM sebagai "bangku kerja berkelajuan tinggi" bagi GPU AI. Jika bangku kerja terlalu kecil, pemberat model dan konteks tidak dapat dimuatkan. Jika pergerakan data terlalu perlahan, sumber pengiraan GPU akan terbiar tanpa digunakan. Semasa memperkenalkan Blackwell Ultra, NVIDIA menyatakan bahawa satu GPU boleh dikonfigurasikan dengan 288GB HBM3e untuk model yang lebih besar, konteks yang lebih panjang, dan beban kerja inferens. Ini menunjukkan bahawa peningkatan HBM bukan sahaja mengenai pengembangan kapasiti. Kapasiti, lebar jalur, kecekapan tenaga, dan keupayaan pembungkusan semuanya bertambah baik bersama-sama.

HBM juga mempunyai halangan bekalan yang lebih tinggi berbanding DRAM biasa. Ia memerlukan penumpukan berbilang lapisan, TSV, pembungkusan termaju, kawalan hasil, dan kelayakan pelanggan. Ia tidak boleh diganti dengan cepat oleh talian pengeluaran memori biasa. Micron mengumumkan bahawa HBM4 36GB 12-high mereka untuk NVIDIA Vera Rubin telah memasuki pengeluaran bervolum tinggi, dengan lebar jalur setiap tindanan melebihi 2.8TB/s dan kecekapan kuasa yang lebih baik. Ini menunjukkan bahawa HBM telah bergerak daripada sekadar "produk memori premium" kepada menjadi sebahagian daripada peta jalan platform AI.

Pembahagian tugas antara HBM dan jenis memori lain boleh difahami seperti berikut:

Jenis Lokasi Kekuatan Had Senario AI
HBM Berhampiran pakej GPU Lebar jalur sangat tinggi, kependaman rendah Kos tinggi, bekalan terhad Latihan, inferens, KV cache
DRAM Pelayan Memori CPU dan sistem Kapasiti lebih besar, serbaguna Lebar jalur lebih rendah daripada HBM Penjadualan, caching, pangkalan data
Memori LPDDR/CXL Lapisan memori diperluaskan Kecekapan kuasa atau kebolehskalaan lebih baik Ekosistem masih berkembang Perluasan inferens, kolam memori
SSD Storan setempat atau rangkaian Kapasiti lebih besar, kos lebih rendah Kependaman lebih tinggi daripada memori Checkpointing, data panas

Permintaan HBM juga memberi kesan songsang kepada pasaran DRAM biasa. Dalam perbincangannya mengenai permintaan pelayan AI, TrendForce menyatakan bahawa pembekal DRAM terus mengalihkan kapasiti ke arah HBM dan aplikasi pelayan, manakala harga kontrak untuk DRAM tradisional dan NAND Flash juga dipengaruhi oleh bekalan dan permintaan yang ketat. Ini bermakna HDM bukan sekadar produk yang berdiri sendiri. Ia mengubah peruntukan kapasiti wafer, perbelanjaan modal, dan strategi penguncian pelanggan.

Bagi pelabur, penjejakan HBM tidak sepatutnya berhenti pada "seberapa besar kenaikan harga." Beberapa pemboleh ubah perlu dititikberatkan:

  • Sama ada kapasiti HBM setiap GPU terus meningkat;
  • Kelajuan peralihan daripada HBM3E kepada HBM4 dan HBM4E;
  • Kemajuan kelayakan dengan pelanggan NVIDIA, AMD, Google, dan ASIC;
  • Perjanjian bekalan jangka panjang dan pengaturan bayaran pendahuluan oleh pembekal memori;
  • Sama ada peruntukan kapasiti HBM menyekat bekalan DRAM pelayan atau DRAM pengguna.

Ringkasan: HBM ialah kategori storan yang paling berkait rapat dengan pengkomputeran GPU dalam pelayan AI. Ia menyelesaikan masalah lebar jalur, kapasiti, dan kecekapan tenaga di sisi GPU. Latihan model berskala besar, konkurensi inferens, beban kerja konteks panjang, dan AI agentic semuanya meningkatkan tekanan ke atas HBM. Namun nilai HBM bukan sahaja datang daripada "permintaan yang kuat." Ia juga datang daripada teknologi proses, pembungkusan, hasil pengeluaran, kelayakan pelanggan, dan hubungan bekalan jangka panjang. HBM tidak semata-mata menggantikan DRAM biasa. Ia terletak pada lapisan berkelajuan tinggi yang lebih hampir dengan GPU. Apabila menganalisis rantaian bekalan HBM, anda perlu memantau peta hala tuju platform GPU, kapasiti HBM setiap kad, bahagian pembekal, peningkatan kapasiti, dan kunci-in pelanggan hiliran.

Mengapakah DRAM Pelayan Juga Didorong oleh AI?

Memori DRAM pelayan dan sistem memori CPU

DRAM pelayan didorong oleh AI kerana sebilangan besar tugasan sisi sistem di luar GPU masih memerlukan CPU dan memori hos. HBM mengendalikan pengiraan setempat GPU, tetapi prapemprosesan data, penjadualan tugasan, pangkalan data, pengambilan vektor, tatasusunan protokol rangkaian, rangka kerja perkhidmatan inferens, maya dan pengurusan kontena semuanya bergantung pada DRAM pelayan. Semakin meluas inferens AI, semakin tinggi kemungkinan konfigurasi memori pelayan umum meningkat.

Sat salah faham yang umum ialah DRAM pelayan mungkin menjadi kurang penting kerana HBM lebih hampir dengan GPU. Sebenarnya, sebaliknya yang benar. Kluster AI ialah sistem heterogen. GPU tidak menyelesaikan setiap tugasan secara berasingan. Perkhidmatan model memerlukan CPU untuk mengendalikan pengagihan permintaan, penjadualan token, pengurusan cache, pembalakan, dan dasar keselamatan. Sistem RAG juga memanggil pangkalan data vektor dan perpustakaan dokumen perusahaan. Pelaksanaan awan persendirian menambah kontena, pemantauan, kebenaran, dan tadbir urus data. Semua tugasan ini memerlukan memori pelayan berkapasiti lebih tinggi, berprestasi lebih tinggi, dan berkuasa lebih rendah.

Dalam hasil suku ketiga 2025, SK hynix menyatakan bahawa jualan HBM dan produk pelayan berprestasi tinggi yang kukuh telah menyokong prestasi suku tahunan, dan menyatakan bahawa perbincangan bekalan untuk HBM tahun hadapan telah selesai. Jenis ulasan ini menunjukkan bahawa permintaan di sisi pelayan tidak tertumpu hanya pada HBM. Ia juga merangkumi DDR5 berkapasiti tinggi, SSD perusahaan, dan portfolio memori yang lebih luas untuk pelayan AI.

Senario permintaan utama untuk DRAM pelayan termasuk:

Senario Peranan DRAM Perubahan Permintaan
Pra-pemprosesan latihan AI Pembersihan, pemisahan, dan penimbalan data latihan Set data yang lebih besar meningkatkan tekanan memori
Perkhidmatan inferens dalam talian Penjadualan permintaan, pengelompokan, pengurusan konteks konkurensi yang lebih tinggi memerlukan konfigurasi memori yang lebih tinggi
Pangkalan data RAG dan vektor Penimbalan indeks, pecutan pertanyaan Integrasi data perusahaan meningkatkan permintaan memori
Perkhidmatan awan berbilang penyewa Bekas, virtualisasi, pengasingan Kapasiti dan kestabilan yang lebih tinggi diperlukan
Penyelarasan CPU-GPU Pergerakan data, tumpukan protokol, orkestrasi perkhidmatan Tekanan memori di sisi sistem meningkat

CXL, memory pooling, dan modul berkapasiti lebih besar juga patut diberi perhatian. Kepentingan CXL ialah ia boleh membebaskan pengembangan memori daripada had papan induk pelayan tunggal, membolehkan pusat data mengkonfigurasi sumber memori dengan lebih fleksibel. Ia tidak akan menggantikan DRAM tradisional dengan serta-merta, tetapi ia mungkin mengubah struktur perolehan memori pelayan. Beban kerja berfrekuensi tinggi tertentu akan terus menggunakan DRAM setempat, manakala sesetengah beban kerja pengembangan kapasiti mungkin menggunakan kolam memori CXL atau jenis modul baharu.

Logik pelaburan untuk DRAM pelayan berbeza daripada HBM. HBM ialah produk yang mempunyai halangan tinggi, ASP tinggi dan tertumpu kepada pelanggan tertentu. DRAM pelayan mempunyai pendedahan yang lebih luas dan dipengaruhi oleh inferens AI, pelayan tujuan umum, perbelanjaan IT perusahaan serta perbelanjaan modal awan secara keseluruhannya. Daya elasinya mungkin tidak begitu melampau seperti HBM, tetapi ketahannya lebih bergantung pada sama ada inferens AI benar-benar dapat merebak daripada beberapa platform model berskala hiper kepada aplikasi perusahaan.

Ringkasan: DRAM pelayan didorong oleh AI kerana pelayan AI tidak dikuasakan oleh GPU semata-mata. Penjadualan di sisi CPU, prapemprosesan data, pengambilan vektor, pengurusan cache, rangka kerja perkhidmatan inferens, dan pelan penggunaan awan peribadi perusahaan semuanya memerlukan memori sistem yang lebih besar dan berprestasi tinggi. HBM menyelesaikan masalah lebar jalur di sisi GPU, manakala DRAM pelayan menyokong beban kerja di sisi sistem. Kedua-duanya membahagikan tanggungjawab dan bukan menggantikan satu sama lain. Apabila menilai permintaan DRAM pelayan, anda perlu melihat melangkaui kluster latihan dan turut mengesan pelan penggunaan perkhidmatan inferens, aplikasi RAG, penswastaan AI perusahaan, kitaran penjanaan semula pelayan awan, dan seni bina baharu seperti CXL.

Apakah Tugas yang Ditangani oleh SSD Perusahaan dalam Pelayan AI?

Peranan utama SSD perusahaan dalam pelayan AI adalah untuk mengendalikan bacaan/tulisan yang kerap, data panas, pemuatan model, penyemak titik (checkpointing), pengambilan vektor, dan beberapa beban kerja cache inferens. Ia tidak sedekat GPU seperti HBM, dan ia tidak memberi tumpuan kepada kapasiti kos rendah seperti HDD. Sebaliknya, ia menduduki lapisan kritikal antara kelajuan dan kapasiti. Semakin maju inferens AI, RAG, dan AI agentic, semakin penting SSD perusahaan dalam laluan data.

Semasa latihan, SSD sering digunakan untuk membaca sampel latihan, menulis titik semak (checkpoint), menyimpan hasil perantaraan, dan menyokong pemulihan tugas. Kerja latihan berskala besar berjalan untuk tempoh yang lama. Sekali gangguan berlaku, ia per disambung semula dengan pantas daripada titik semak. Jika sistem storan menulis terlalu perlahan, ia bukan sahaja boleh menjejaskan pemulihan tetapi juga memperlahankan kemajuan latihan. Semasa inferens, peranan SSD berkembang lebih jauh lagi: pemuatan berat model, indeks penjanaan, pangkalan data vektor, konteks pengguna, dan penyimpanan sementara hasil carian semuanya mungkin bergantung pada SSD NVMe berlatensi rendah.

Dalam AI to Reshape the Global Technology Landscape, TrendForce menyatakan bahawa SSD QLC sedang digunakan dalam lapisan penyimpanan data AI suam dan sejuk, seperti penyimpanan checkpoint model dan pengarkiban set data, serta menjangkakan SSD QLC akan merangkumi kira-kira 30% daripada pasaran SSD perusahaan menjelang tahun 2026. Ini menunjukkan bahawa pertumbuhan SSD perusahaan bukan sahaja datang daripada produk TLC berprestasi tinggi, tetapi juga daripada produk QLC yang menekankan kos kapasiti.

KV cache merupakan satu lagi bidang yang patut diperhatikan. Inferens konteks panjang dan perbualan berbilang giliran boleh menyebabkan KV cache berkembang dengan cepat, dan GPU HBM serta DRAM hos mungkin tidak mencukupi. Dalam pemerhatiannya terhadap pasaran SSD perusahaan, TrendForce menyatakan bahawa perkhidmatan AI Agent dan permintaan perolehan CSP telah mendorong hasil SSD perusahaan kepada tahap rekod tertinggi, dan menyebut bahawa kos DRAM serta kekangan kapasiti mendorong pasaran untuk memasukkan SSD berprestasi tinggi ke dalam hierarki memori. Penyelidikan akademik turut meneroka KV cache berasaskan SSD. Sebagai contoh, Tutti memperkenalkan SSD NVMe ke dalam pelayanan LLM konteks panjang untuk meredakan kekangan kapasiti HBM dan DRAM.

SSD perusahaan juga perlu dibahagikan kepada lapisan:

Jenis SSD Kelebihan Senario Lebih Sesuai Nota
SSD TLC berprestasi tinggi Latensi rendah, ketahanan tinggi Pangkalan data dalam talian, RAG, data panas Kos lebih tinggi
SSD QLC Kapasiti lebih besar, kos lebih rendah Checkpointing, set data, data suam Ketahanan tulisan perlu dinilai
SSD jenis SCM / XL-FLASH Latensi lebih rendah Cache KV, storan terus GPU Ekosistem dan kos masih berkembang
SSD pengguna Kos rendah Tugasan tempatan bukan kritikal Tidak sesuai untuk beban kerja perusahaan yang intensif

Apabila menganalisis permintaan SSD perusahaan, anda perlu membezakan antara "permintaan dipacu prestasi" dengan "permintaan dipacu kapasiti." Permintaan dipacu prestasi datang daripada inferens kependaman rendah, pangkalan data vektor, dan caching. Permintaan dipacu kapasiti datang daripada set latihan, checkpointing, bahan multimodal, dan tasik data perusahaan. Kedua-dua jenis permintaan ini dipacu oleh AI, tetapi ia sepadan dengan produk, margin, dan pembekal yang berbeza.

Ringkasan: SSD enterprise ialah salah satu lapisan yang paling kurang dihargai dalam storan AI. Ia tidak berkaitan secara langsung dengan GPU seperti HBM, dan ekonomi kapasitinya tidak sejelas HDD, tetapi ia mengendalikan data panas, checkpointing, pemuatan model, pengambilan RAG, dan sesetengah beban kerja KV cache. Apabila AI bergerak daripada latihan ke inferens berskala besar, SSD sedang beralih daripada "peranti penyimpanan data" kepada sebahagian daripada laluan perkhidmatan inferens. Analisis perlu memisahkan SSD TLC, QLC, SCM, dan nearline kerana ia sepadan dengan keperluan yang berbeza: kependaman rendah, ketahanan tinggi, kos kapasiti, dan pengembangan hierarki memori baharu.

Mengapa HDD Masih Menjadi Asas Kapasiti Pusat Data AI?

HDD kekal sebagai asas kapasiti pusat data AI kerana bukan semua data perlu disimpan dalam SSD atau memori. Data latihan mentah, imej, video, audio, log, sandaran, rekod pematuhan dan versi sejarah selalunya tergolong dalam data suam atau data sejuk. Data tersebut lebih mementingkan $/TB, kebolehpercayaan dan kos penggunaan berskala besar. Semakin banyak data dijana oleh AI, semakin jelas nilai HDD sebagai kapasiti berkos rendah.

Era AI tidak menyebabkan HDD hilang. Sebaliknya, ia telah menjelaskan peranan mereka. SSD mengendalikan data panas dan akses latenasi rendah. HDD mengendalikan tasik data yang besar dan penyimpanan jangka panjang. Ini terutama berlaku untuk model multimodal dan integrasi data perusahaan swasta, yang menjana sejumlah besar data tidak berstruktur. Jika semua data disimpan pada SSD, kos, penggunaan kuasa, dan kepadatan rak akan menjadi kekatan utama.

The Long-Term Case for HDD Storage daripada Western Digital menekankan bahawa pusat data mempertimbangkan TCO, kos perolehan, penggunaan kuasa, ketumpatan, prestasi dan kitaran hayat semasa memilih storan, serta memetik pandangan IDC bahawa SSD mempunyai premium $/TB sebanyak 5–10 kali ganda berbanding HDD. Jurang ini menjelaskan sebab pusat data skala besar (hyperscale) mungkin membeli SSD dalam jumlah yang besar sambil masih mengekalkan HDD pada lapisan kapasiti.

Seagate turut mengaitkan pemacu berkapasiti tinggi dengan pusat data AI, kedaulatan data, dan pelabuhan pusat data hibrid semasa mengumumkan pemacu 30TB-nya. Pemacu HDD nearline berkapasiti tinggi, HAMR, dan UltraSMR semuanya mengejar matlamat yang sama: meningkatkan ketumpatan kapasiti yang boleh digunakan dan mengurangkan kos penyimpanan data jangka panjang di bawah kekangan rak, kuasa, dan penyelenggaraan yang sama.

Pembahagian tugas antara SSD dan HDD boleh difahami seperti berikut:

Dimensi SSD Enterprise HDD Enterprise
Kekuatan utama Latensi rendah, IOPS tinggi $/TB rendah, kapasiti tinggi
Data utama Data panas, indeks, cache Data lake, sandaran, arkib
Senario AI Inferens, RAG, checkpointing Bahan latihan, data multimodal
Kepekaan kos Sederhana hingga tinggi Sangat tinggi
Hubungan penggantian Menggantikan sebahagian senario HDD berfrekuensi tinggi Mengekalkan peranan asas kapasiti besar

Risiko bagi HDD juga harus jelas. Apabila kapasiti SSD QLC meningkat, ia mungkin menggantikan beberapa senario HDD nearline. Jika pusat data AI memberikan penekanan yang lebih besar kepada penggunaan kuasa dan kelajuan bacaan, SSD mungkin mengambil alih sebahagian lapisan data suam. Tetapi selagi AI terus menghasilkan data tak berstruktur dalam kuantiti yang besar, HDD masih mempunyai keekonomian yang sukar digantikan.

Ringkasan: Nilai HDD di pusat data AI bukanlah kelajuan, tetapi ekonomi kapasiti berskala besar. Latihan AI, data multimodal, tasik data perusahaan, log, sandaran, dan arkib pematuhan semuanya menjana data yang tidak memerlukan akses masa nyata tetapi mesti disimpan untuk tempoh yang lama. SSD akan berkembang dalam data panas dan beberapa senario data suam, dan SSD QLC juga mungkin hakis beberapa kes penggunaan HDD, tetapi HDD masih berfungsi sebagai asas kapasiti. Apabila menganalisis rantaian bekalan HDD, tumpukan kepada pesanan pelanggan hiperskalabel, produk nearline berkapasiti tinggi, kemajuan HAMR, perjanjian pembelian jangka panjang, tahap inventori, dan kos setiap unit kapasiti.

Bagaimana Anda Boleh Mengetahui Sama Ada Permintaan Penyimpanan AI Adalah Kitaran Jangka Pendek atau Trend Jangka Panjang?

Untuk menilai permintaan storan AI, anda perlu memisahkan pertumbuhan data jangka panjang daripada kitaran penetapan harga jangka pendek. Dalam jangka panjang, data latihan, kandungan multimodal, cache inferens, data peribadi perusahaan, dan kedaulatan data semuanya meningkatkan keperluan kapasiti storan. Dalam jangka pendek, harga storan mungkin terjejas oleh peralihan kapasiti, penguncian pelanggan awal, pembetulan inventori, dan kitaran perbelanjaan modal. Permintaan sebenar wujud, tetapi itu tidak bermakna harga dan harga saham akan meningkat secara linear.

Industri storan secara semula jadi adalah berkitaran. DRAM, NAND, dan HDD semuanya telah melalui kitaran "kenaikan harga—pengembangan kapasiti—penumpukan inventori—penurunan harga". AI mengubah struktur permintaan dan kekuatan penguncian pelanggan, tetapi ia tidak menghapuskan kitaran. Ketika melaporkan tentang peningkatan perbelanjaan modal oleh gergasi teknologi untuk pusat data dan infrastruktur AI, Reuters menyatakan bahawa syarikat penyimpanan data mendapat manfaat daripada permintaan data AI, dan bahawa Western Digital dan Seagate menyaksikan peningkatan pesanan serta jangkaan pasaran. Namun, jika perbelanjaan modal awan perlahan atau pelanggan menimbun stok terlalu awal, penyesuaian inventori mungkin masih berlaku.

Anda boleh menjejak permintaan storan AI menggunakan senarai semak berikut:

Kawasan Pemerhatian Penunjuk Utama Kategori Berkaitan
Perbelanjaan modal awan Pusat data, klaster GPU, sistem skala rak HBM, DRAM, SSD, HDD
Peta jalan platform GPU Kapasiti HBM setiap GPU, lebar jalur, kelajuan penghantaran HBM
Penggunaan inferens Konteks panjang, serentakan, aplikasi RAG DRAM, SSD
AI perusahaan Integrasi data persendirian, penggunaan setempat, storan pematuhan SSD, HDD
Harga storan Harga kontrak DRAM, NAND, SSD perusahaan DRAM, SSD
Pesanan HDD Nearline HDD, perjanjian pembelian jangka panjang HDD
Tahap inventori Inventori pelanggan, saluran, dan pembekal Semua kategori

Perspektif kos perdagangan juga penting. Jika anda mengikuti saham rantaian bekalan storan AI, seperti syarikat memori, cakera keras, peralatan semikonduktor, pelayan, dan pusat data, anda perlu mengkaji bukan sahaja keputusan kewangan dan pesanan tetapi juga kos transaksi sebenar. Kos perdagangan saham A.S. biasanya merangkumi lebih daripada komisen. Ia mungkin juga merangkumi yuran platform, yuran agensi luaran, yuran aktiviti perdagangan, dan caj-caj lain. Yuran perdagangan saham A.S. Biya menyatakan bahawa komisen perdagangan saham A.S. ialah $0, manakala yuran platform, yuran agensi luaran, dan caj-caj lain tertakluk kepada pusat yuran dan halaman pesanan.Ketersediaan perkhidmatan yang berkaitan bergantung pada lokasi pengguna, hasil pengesahan identiti, peraturan platform, serta undang-undang dan peraturan yang berkuat kuasa. Maklumat pasaran awam dan struktur yakin tidak constitutes nasihat pelaburan.

Faktor risiko adalah sama pentingnya. Jika perbelanjaan modal AI dimuat hadapan terlalu agresif, pembekal storan mungkin mencatatkan keputusan jangka pendek yang kukuh tetapi berhadapan dengan pesanan yang lebih perlahan kemudian. Jika kapasiti HBM berkembang lebih pantas daripada permintaan, keanjalan harga mungkin menjadi lemah. SSD QLC mungkin menggantikan beberapa senario HDD. CXL dan pengumpulan memori mungkin mengubah struktur perolehan DRAM pelayan. Perjanjian pelanggan jangka panjang boleh mengurangkan turun naik, tetapi ia juga mungkin mengehadkan potensi kenaikan harga selanjutnya.

Ringkasan: Permintaan storan AI merupakan trend jangka panjang dan juga kitaran jangka pendek. Trend jangka panjang datang daripada skala data, penggunaan inferens, kandungan multimodal, AI perusahaan, dan kedaulatan data. Kitaran jangka pendek datang daripada peruntukan kapasiti, kadar penetapan harga, tahap inventori, kunci-in pelanggan, dan turun naik perbelanjaan modal. Bagi pelabur, perkara paling penting adalah untuk tidak menyamakan "pertumbuhan permintaan" dengan "semua syarikat storan akan terus mendapat manfaat." Syarikat yang berbeza mempunyai pendedahan yang berbeza terhadap HBM, DRAM, NAND, SSD perusahaan, HDD, dan peralatan. Keanjangan keuntungan, tahap penilaian, dan risiko kitaran mereka juga berbeza. Kaedah analisis yang lebih dipercayai adalah untuk menjejak kategori produk, pelanggan, kapasiti, pesanan, dan harga secara berasingan.

Jika anda mengikuti rantaian bekalan pelayan AI, storan harus diletakkan dalam rangka pemerhatian yang lebih luas. Di huluan, anda boleh menjejaki HBM, DRAM, NAND, HDD, dan pembungkusan termaju. Di pertengahan aliran, anda boleh melihat pelayan, suis, penyejukan cecair, sistem kuasa, dan pembinaan pusat data. Di hiliran, anda boleh memantau perbelanjaan modal awan, penggunaan AI perusahaan, dan penggunaan inferens. Anda juga boleh menggunakan carian maklumat saham AS untuk menjejaki sebut harga syarikat berkaitan, tarikh pendapatan, dan maklumat asas, serta menggunakan Biya untuk merakamkan transaksi pelbagai aset, kos pertukaran asing, dan butiran bil. Jika perkhidmatan tersedia di kawasan anda, anda harus menyemak peraturan platform, yuran pesanan, dan keperluan pengawalseliaan tempatan sebelum digunakan.Rantai bekalan storan boleh tidak stabil, dan sebarang keputusan dagangan harus berdasarkan pertimbangan bebas dan toleransi risiko peribadi.

Soalan Lazim

Mengapa Pelayan AI Memerlukan Kedua-dua HBM dan DRAM Pelayan?

Pelayan AI memerlukan kedua-dua HBM dan DRAM pelayan kerana kedua-duanya berfungsi pada lapisan pengkomputeran yang berbeza. HBM terletak berhampiran GPU dan menyokong akses berkelajuan tinggi kepada berat model, pengaktifan, dan cache KV. DRAM pelayan terletak lebih hampir kepada CPU dan menyokong penjadualan, caching, pangkalan data, kerangka perkhidmatan inferens, dan pengurusan sistem. Kedua-duanya saling melengkapkan dan bukannya saling menggantikan.

Apakah Peranan SSD Perusahaan dalam Inferens AI?

SSD perusahaan dalam inferens AI terutamanya menyokong pemuatan model, bacaan data panas, pengambilan vektor, akses data RAG, checkpointing, dan beberapa senario cache KV. Latensi rendah, IOPS tinggi, dan prestasi penulisan yang stabil boleh mempengaruhi kualiti perkhidmatan inferens, tetapi konfigurasi sebenar bergantung pada saiz model, konkurensi, panjang konteks, dan seni bina sistem.

Mengapa HDD Belum Digantikan Sepenuhnya oleh SSD?

HDD belum digantikan sepenuhnya oleh SSD kerana pusat data AI masih memerlukan asas storan berkapasiti tinggi dan kos rendah. SSD lebih sesuai untuk data panas dan tugas berlatensi rendah, manakala HDD lebih sesuai untuk tasik data, bahan latihan, log, sandaran, dan arkib. Dalam seni bina storan berlapis, kedua-duanya adalah saling melengkapi dan bukan semata-mata pengganti.

Senario Pusat Data AI yang Manakah Sesuai untuk SSD QLC?

SSD QLC lebih sesuai untuk senario pusat data AI yang sensitif terhadap kapasiti dengan frekuensi akses sederhana, seperti penyimpanan checkpoint model, pengarkiban set data, data hangat, sebahagian storan objek, dan lapisan data nearline. Beban kerja dengan penulisan tinggi, ketahanan tinggi, dan latensi rendah masih memerlukan penilaian SSD TLC, SSD SCM, atau pilihan gred perusahaan yang lain.

Bagaimana Pelabur Boleh Menjejak Perubahan dalam Permintaan Storan AI?

Pelabur boleh menjejak perbelanjaan modal awan, penghantaran pelayan AI, perjanjian bekalan HBM, harga kontrak DRAM/NAND, hasil SSD perusahaan, pesanan HDD berkapasiti tinggi, dan tahap inventori. Satu tajuk berita kenaikan harga sahaja tidak memadai untuk menilai trend jangka panjang. Keputusan kewangan, kapasiti, gabungan pelanggan, dan risiko penilaian harus dianalisis bersama-sama.

Adakah Pertumbuhan Permintaan Storan AI Memberi Manfaat kepada Semua Syarikat Storan?

Pertumbuhan permintaan storan AI tidak semestinya memberi manfaat kepada semua syarikat storan. Syarikat yang berbeza mempunyai pendedahan yang berbeza terhadap HBM, DRAM pelayan, NAND, SSD perusahaan, HDD, pengawal, dan peralatan. Keanjalan keuntungan juga berbeza-beza. Kepekatan pelanggan, pengembangan kapasiti, kawalan kos, kedudukan inventori, dan penilaian semasa semuanya perlu dipertimbangkan.

*Artikel ini disediakan untuk tujuan maklumat umum dan tidak membentuk nasihat undang-undang, cukai atau nasihat profesional lain daripada BiyaPay atau anak syarikat serta syarikat gabungannya, dan ia tidak bertujuan sebagai pengganti untuk mendapatkan nasihat daripada penasihat kewangan atau mana-mana profesional lain.

Kami tidak membuat sebarang pernyataan atau jaminan, sama ada secara nyata atau tersirat, mengenai ketepatan, kelengkapan atau ketepatan masa kandungan penerbitan ini.

Blog berkaitan

Pilih Negara atau Wilayah untuk Membaca Blog Tempatan