Arsitektur Penyimpanan Pusat Data AI: Apa Peran Masing-Masing dari HBM, DRAM, SSD, dan HDD?

Jaringan server dan aliran data dalam arsitektur penyimpanan pusat data AI

Pusat data AI tidak hanya berjalan dengan GPU dan HBM semata. Mereka bergantung pada arsitektur penyimpanan berlapis yang terdiri dari HBM, DRAM, SSD, dan HDD. Semakin dekat lapisan penyimpanan ke chip komputasi, semakin tinggi penekanan pada bandwidth, latensi, dan efisiensi daya. Semakin dekat ke lapisan danau data dan arsip, semakin tinggi penekanan pada kapasitas, keandalan, dan biaya per terabyte. Setelah memahami bagaimana keempat jenis penyimpanan ini membagi tanggung jawab, Anda dapat lebih baik menilai hambatan server AI, CAPEX cloud, urutan perusahaan memori yang mungkin mendapatkan keuntungan, serta mengapa AI dapat mendorong permintaan HBM, NAND, dan HDD secara bersamaan.

Poin-Poin Penting

  • HBM menangani komputasi bandwidth tinggi di dekat GPU, bukan penyimpanan data jangka panjang.
  • DRAM mendukung memori sistem di sisi CPU, penjadwalan, prapemrosesan, dan luapan cache.
  • SSD menangani data panas (hot data), pemuatan model, checkpoint, dan akses persisten berkecepatan tinggi.
  • HDD tetap menjadi fondasi biaya untuk data dingin (cold data), pengarsipan, pencadangan, dan danau data berkapasitas besar.
  • Inferensi AI dapat meningkatkan permintaan untuk HBM, DRAM, SSD, dan HDD secara bersamaan.
  • Untuk menilai segmen penyimpanan mana yang diuntungkan lebih dulu, Anda perlu mengidentifikasi di mana kemacetan (bottleneck) muncul.

Arsitektur Penyimpanan Pusat Data AI: Dari HBM GPU hingga HDD untuk Data Dingin

Chip memori dan lapisan perangkat keras penyimpanan di pusat data AI

Arsitektur penyimpanan pusat data AI adalah sistem berlapis. HBM berada paling dekat dengan GPU dan akselerator AI, menyediakan pengiriman data berkapasitas tinggi (high-bandwidth). DRAM di sisi CPU mendukung memori sistem dan penjadwalan tugas. SSD di server dan node penyimpanan menyimpan data yang sering diakses. Danau data skala lebih besar, cadangan (backup), dan arsip mengandalkan HDD. Keempat lapisan ini bukanlah pengganti satu sama lain. Mereka bekerja sama berdasarkan kecepatan, kapasitas, biaya, dan frekuensi akses.

Micron AI data center menggambarkan infrastruktur AI sebagai hierarki memori dan penyimpanan yang lengkap. Cara pandang ini penting: beban kerja AI tidak menempatkan semua data ke dalam media tercepat. Sebaliknya, berbagai jenis data ditempatkan di tempat yang paling sesuai.

Lapisan Produk Paling Mirip Dengan Metrik Utama Tugas Utama
Lapisan 1 HBM GPU / akselerator AI Bandwidth, latensi, daya Komputasi model, KV cache panas, pengiriman data GPU
Lapisan 2 DRAM CPU / sistem host Kapasitas, latensi, jumlah kanal Memori sistem, penjadwalan, pra-pemrosesan, luapan cache
Lapisan 3 SSD Server / node penyimpanan IOPS, throughput, daya tahan Pemuatan model, pembacaan data pelatihan, penyimpanan data panas
Lapisan 4 HDD Kluster penyimpanan / penyimpanan objek Biaya per TB, kapasitas, keandalan Data lake, data dingin, pengarsipan, pencadangan

Mengapa Anda tidak boleh hanya berfokus pada GPU dan HBM? Pelatihan AI perlu membaca kumpulan data secara terus-menerus, sehingga SSD dan penyimpanan berjaringan memengaruhi utilisasi GPU. Inferensi AI perlu memproses konteks pengguna, log, dan cache, sehingga DRAM dan SSD memengaruhi throughput. File model, data pelatihan, log pemantauan, data vektor, dan interaksi historis juga tidak dapat disimpan dalam HBM dalam jangka panjang. Pusat data yang sesungguhnya dirancang untuk menyeimbangkan komputasi, kapasitas, dan biaya energi.

Ada empat kesalahpahaman yang umum. Pertama, lebih banyak HBM tidak membuat SSD menjadi tidak relevan. Kedua, SSD yang lebih murah tidak serta-merta menghilangkan HDD. Ketiga, DRAM bukan hanya memori server tradisional; DRAM penting untuk inferensi AI. Keempat, permintaan penyimpanan AI tidak hanya berasal dari pelatihan, tetapi juga dari inferensi, log, dan loop umpan balik data. Dalam praktiknya, aliran data AI bersifat melingkar: data mentah masuk ke lapisan penyimpanan, dibersihkan, dibaca, dilatih, dan diubah menjadi model; model-model tersebut kemudian digunakan untuk inferensi, dan hasil inferensi menghasilkan log serta data umpan balik baru yang kembali ke sistem penyimpanan.

Ringkasan: Pusat data AI memerlukan penyimpanan berlapis karena berbagai jenis data memiliki frekuensi akses, persyaratan latensi, dan batasan biaya yang berbeda. HBM menyelesaikan hambatan bandwidth di dekat GPU. DRAM menyelesaikan hambatan memori sistem dan penjadwalan. SSD menyelesaikan hambatan data panas (hot-data) dan persistensi berkecepatan tinggi. HDD menyelesaikan hambatan biaya untuk penyimpanan data berskala besar jangka panjang. Memahami arsitektur berlapis ini lebih realistis daripada menganalisis satu produk penyimpanan secara terisolasi.

Apa Fungsi HBM: Memori Berbandwidth Tinggi yang Dekat dengan GPU

Chip memori HBM dan berbandwidth tinggi yang terkait dengan akselerator AI

HBM menangani pengiriman data lini depan untuk akselerator AI. Ini bukan hard drive, dan juga bukan memori server biasa. Ini adalah memori berband lebar tinggi yang secara langsung melayani GPU, AI ASIC, dan chip komputasi berperforma tinggi. Selama pelatihan dan inferensi model besar, inti komputasi terus-menerus membaca bobot, aktivasi, dan data cache. Jika pasokan data tidak dapat mengikuti, kapasitas komputasi GPU akan menganggur. Nilai HBM terletak pada pengurangan waktu menunggu tersebut.

Ide dasar di balik HBM adalah menumpuk beberapa die DRAM secara vertikal dan menghubungkannya ke chip komputasi melalui antarmuka lebar dan pengemasan tingkat lanjut. Materi Samsung HBM4E menunjukkan bahwa HBM4E generasi berikutnya menyasar AI, GPU, dan komputasi berkinerja tinggi, dengan bandwidth pada level 4,0 TB/s. Metrik-metrik ini menunjukkan bahwa persaingan HBM tidak lagi hanya soal kapasitas, tetapi juga soal bandwidth, konsumsi daya, pengemasan, dan pasokan yang stabil.

Tahap AI Tugas Utama HBM Mengapa Tidak Mudah Dipindahkan ke Bawah
Pelatihan model Menyimpan bobot, aktivasi, dan data perantara yang sering diakses Diperlukan bandwidth yang sangat tinggi dan latensi rendah
Generasi inferensi Mendukung eksekusi model dan hot KV cache Konkurensi pengguna memperbesar tekanan bandwidth
Konteks panjang Menampung cache konteks bernilai tinggi Jendela konteks yang lebih panjang meningkatkan penggunaan memori
Koordinasi multi-GPU Bekerja dengan interkoneksi berkecepatan tinggi untuk memindahkan data Mengurangi waktu tunggu sinkronisasi dan kehilangan komunikasi

Namun, hambatan HBM bukan hanya harga. HBM juga dibatasi oleh teknologi proses canggih, penumpukan (stacking), TSV, pengemasan (packaging), pengujian, yield, dan kualifikasi pelanggan. Memasuki rantai pasokan GPU atau AI ASIC biasanya memerlukan siklus validasi yang panjang. Pemasok tidak hanya perlu menghasilkan sampel, tetapi juga harus membuktikan bahwa produk mereka dapat berjalan andal dalam kondisi daya tinggi, suhu tinggi, dan konkurensi tinggi. Samsung, SK hynix, dan Micron adalah pemasok HBM utama, tetapi masing-masing perusahaan dapat berbeda dalam generasi produk, yield, sertifikasi pelanggan, dan alokasi kapasitas.

Saat melacak HBM, Anda tidak hanya boleh melihat frasa "permintaan yang kuat." Indikator yang lebih berguna mencakup linimasa produksi HBM3E, HBM4, dan HBM4E, kapasitas per paket, bandwidth, sertifikasi pelanggan, kapasitas pengemasan, yield, premi harga, dan pendapatan HBM sebagai bagian dari bisnis setiap perusahaan memori. Jika pasokan HBM ketat dan kualifikasi pelanggan berjalan lancar, leverage laba bisa lebih kuat. Jika ekspansi terlalu cepat atau pelanggan mengubah desain, valuasi juga dapat menyesuaikan dengan cepat.

Ringkasan: HBM adalah lapisan memori ber-bandwidth tinggi yang paling dekat dengan inti komputasi di pusat data AI. Lapisan ini terutama menyelesaikan pengiriman data untuk GPU dan akselerator AI. Hal ini penting untuk pelatihan, inferensi, konteks panjang, dan koordinasi multi-GPU, tetapi dibatasi oleh kemasan, hasil produksi, daya, kapasitas, dan kualifikasi pelanggan. Pertumbuhan permintaan HBM biasanya paling banyak menguntungkan pemimpin memori canggih dengan kemampuan produksi massal yang kuat; tidak setiap perusahaan penyimpanan mendapat manfaat yang sama.

Apa Fungsi DRAM: Memori Sistem Sisi CPU dan Lapisan Buffer Penjadwalan

DDR5 DRAM dan perangkat keras memori sistem di server AI

DRAM mendukung memori sistem di sisi CPU, orkestrasi tugas, prapemrosesan data, dan luapan cache di server AI. DRAM tidak sedekat HBM terhadap GPU, tetapi menentukan apakah server dapat mengorganisasi data, menjadwalkan permintaan, mengelola I/O, dan menyerap sebagian tekanan cache. Tanpa DRAM yang cukup, sebuah GPU mungkin memiliki daya komputasi yang kuat tetapi kekurangan dukungan data dan tugas di tingkat sistem yang stabil.

Perbedaan antara HBM dan DRAM dapat dipahami melalui lokasi dan fungsi. HBM berada di samping GPU atau akselerator AI dan mengutamakan bandwidth yang sangat tinggi serta latensi rendah. DRAM berada di sisi CPU dan sistem host serta mengutamakan kapasitas memori sistem yang lebih besar, penjadwalan tugas yang lebih fleksibel, dan biaya satuan yang lebih rendah. Materi Micron COMPUTEX 2026 menyebutkan bahwa HBM mendukung eksekusi model berkecepatan tinggi dan KV cache panas, sementara LPDDR dan DDR mendukung memori sistem, orkestrasi, dan perluasan konteks panjang.

Dimensi HBM DRAM
Lokasi Di samping GPU / akselerator AI Sisi CPU / sistem host
Tujuan utama Bandwidth sangat tinggi dan latensi rendah Kapasitas lebih besar dan penjadwalan sistem
Penggunaan khas Komputasi model, cache KV panas Prapemrosesan, memori sistem, luapan cache
Struktur biaya Biaya satuan lebih tinggi Biaya satuan relatif lebih rendah
Batas penskalaan Dibatasi oleh pengemasan dan platform GPU Dibatasi oleh kanal memori, desain motherboard, dan daya

Inferensi AI meningkatkan permintaan DRAM karena inferensi bukan sekadar "menjalankan model satu kali." Seiring meningkatnya konkurensi pengguna, memanjangnya jendela konteks, dan bertambahnya alur kerja agen, sistem harus mengelola lebih banyak permintaan, cache, I/O jaringan, prapemrosesan input, dan log output. KV cache sering digambarkan sebagai memori jangka pendek dari sebuah model AI. Semakin panjang urutan input, semakin besar tekanan pada cache dan pengelolaan data. Sebagian cache panas tetap berada di HBM, sementara sebagian lainnya dapat meluap ke DRAM, SSD, atau tingkatan yang lebih rendah. Ini adalah arah yang umum dalam arsitektur sistem inferensi.

DDR5 tetap menjadi fondasi utama untuk memori sistem server. LPDDR dapat berperan dalam perangkat AI hemat daya dan format modul baru. CXL menawarkan kemungkinan masa depan untuk perluasan memori dan memory pooling. Sebagai contoh, sakelar CXL Marvell menyoroti memory pooling tingkat rak untuk memperluas memori yang tersedia bagi CPU, GPU, XPU, dan akselerator lainnya. Hal ini menunjukkan bahwa hambatan memori AI sedang meluas dari chip individual ke rak dan klaster.

Ringkasan: DRAM adalah lapisan memori sistem dan buffer di pusat data AI. DRAM mendukung penjadwalan di sisi CPU, prapemrosesan data, pengelolaan permintaan, dan sebagian luapan cache. DRAM tidak sedekat HBM dengan GPU, tetapi penting untuk konkurensi inferensi, konteks panjang, manajemen I/O, dan pengoperasian server yang stabil. Untuk menilai permintaan DRAM, Anda perlu mempertimbangkan tren server AI, server tradisional, PC, ponsel pintar, dan ekspansi memori pusat data—bukan hanya momentum HBM.

Apa Fungsi SSD: Data Panas, File Model, dan Penyimpanan Permanen Berkecepatan Tinggi

SSD menangani penyimpanan persisten berkecepatan tinggi di pusat data AI. SSD lebih lambat daripada HBM dan DRAM, tetapi dapat menyimpan data setelah daya mati. SSD lebih cepat daripada HDD, tetapi biaya per satuan kapasitasnya lebih tinggi. Oleh karena itu, SSD paling cocok untuk data yang sering diakses dan sensitif terhadap kinerja yang harus dibaca atau ditulis dengan cepat, seperti file model, sampel pelatihan, checkpoint, data panas (hot data), log, dan sebagian cache KV persisten.

Solidigm inference context memory storage menggambarkan penyimpanan konteks dalam inferensi AI sebagai masalah penyimpanan flash yang baru. Ide intinya adalah ketika konteks dan cache melampaui kapasitas HBM dan DRAM, SSD berdensitas tinggi yang berada dekat dengan pod GPU menjadi lapisan penting untuk memperluas kapasitas inferensi. NVIDIA BlueField-4 CMX juga menempatkan HBM GPU, DRAM sistem, dan penyimpanan lokal atau yang terpasang pada rak dalam hierarki konteks inferensi yang sama. Hal ini menunjukkan bahwa SSD bukan sekadar pengganti hard disk tradisional. SSD adalah bagian dari arsitektur inferensi AI.

AI Workflow SSD Role Key Metrics
Persiapan data Membaca dan membersihkan data pelatihan dengan cepat Pembacaan sekuensial, throughput
Pelatihan model Menyimpan checkpoint dan hasil perantara Daya tahan tulis, latensi
Deployment model Memuat bobot model dengan cepat Pembacaan acak, kapasitas
Layanan inferensi Mendukung data panas dan penulisan log IOPS, latensi ekor
Lapisan panas data lake Menyimpan data bernilai tinggi yang sering diakses Biaya, skalabilitas

Perbedaan antara SSD perusahaan dan SSD konsumen juga penting. Pusat data AI lebih peduli pada penulisan berkelanjutan, perlindungan dari kehilangan daya, latensi ekor yang rendah, daya tahan, suhu, dan bentuk fisik daripada sekadar kecepatan baca yang mencolok. U.2, E1.S, E3.S, PCIe Gen5/Gen6, QLC, dan TLC semuanya memengaruhi kepadatan rak, konsumsi energi, dan biaya per terabyte. SSD berkapasitas tinggi dapat meningkatkan kapasitas per rak dan kepadatan kinerja, tetapi untuk data arsip jangka panjang dan akses frekuensi rendah, biayanya masih biasanya lebih tinggi daripada HDD.

SSD tidak dapat menggantikan HMM karena latensi dan bandwidth-nya jauh di bawah memori bandwidth tinggi di samping GPU. SSD juga tidak dapat menggantikan DRAM karena tidak cocok sebagai memori sistem serbaguna. SSD dapat menggantikan beberapa beban kerja HDD frekuensi tinggi, terutama dalam pemuatan model, akses data panas, checkpointing, dan perluasan cache. Dari perspektif investasi, permintaan SSD harus dinilai melalui pengadaan SSD perusahaan, harga NAND, adopsi QLC, pesanan pelanggan pusat data, persediaan NAND, dan margin kotor—bukan hanya pengiriman server AI.

Ringkasan: SSD adalah lapisan persisten berkecepatan tinggi di pusat data AI. SSD terutama menangani data panas, pemuatan model, pembacaan data pelatihan, checkpoint, dan penulisan log. SSD menghubungkan lapisan memori dengan lapisan penyimpanan jangka panjang. SSD tidak dapat menggantikan HBM atau DRAM, dan juga tidak dapat sepenuhnya menggantikan HDD. Nilai inti SSD adalah menyeimbangkan kecepatan, kapasitas, dan persistensi, terutama di tengah tekanan konteks dan data panas yang diciptakan oleh pertumbuhan inferensi.

Apa yang Dilakukan HDD: Data Masif, Pengarsipan, Pencadangan, dan Siklus Data AI

HDD menangani lapisan data berkapasitas besar, berbiaya rendah, dan jangka panjang di pusat data AI. HDD tidak cocok untuk menggantikan HBM, DRAM, atau SSD berkinerja tinggi, tetapi tetap krusial untuk data pelatihan mentah, log historis, video, cadangan, pengarsipan, penyimpanan objek, dan data dingin. Semakin banyak data yang dihasilkan AI, semakin besar kebutuhannya akan fondasi kapasitas berbiaya rendah yang dapat diskalakan secara horizontal.

HDD belum dieliminasi di era AI karena alasan sederhana: tidak semua data layak disimpan di SSD. Pelatihan model memerlukan volume besar data mentah. Layanan inferensi terus-menerus menghasilkan log, interaksi pengguna, data pemantauan, dan data umpan balik. AI multimodal juga menghasilkan lebih banyak file gambar, audio, dan video. Beberapa dari dataset ini memerlukan akses cepat; yang lain hanya membutuhkan retensi jangka panjang. Untuk yang terakhir, ekonomi kapasitas HDD masih penting. Penyimpanan kapasitas massal Seagate menekankan bahwa penskalaan AI memerlukan hard drive berkapasitas tinggi untuk mendukung penyimpanan data skala besar.

Skenario Mengapa HDD Cocok Apakah Membutuhkan Dukungan SSD?
Data pelatihan mentah Kapasitas besar, frekuensi akses tidak merata Data panas membutuhkan caching SSD
Pengarsipan model Retensi jangka panjang, frekuensi akses lebih rendah Dapat dipindahkan ke SSD saat deployment
Log dan data umpan balik Pertumbuhan data berkelanjutan, sensitif terhadap biaya Log frekuensi tinggi dapat masuk ke SSD terlebih dahulu
Pencadangan dan pemulihan bencana Kapasitas sebagai prioritas, retensi jangka panjang Tergantung pada persyaratan kecepatan pemulihan
Penyimpanan objek Penskalaan horizontal dan kapasitas terkumpul Lapisan cache front-end dapat menggunakan SSD

Teknologi HDD terus berkembang. HAMR, ePMR, SMR, dan UltraSMR bertujuan untuk meningkatkan kapasitas per drive, mengurangi biaya per terabyte, serta meningkatkan efisiensi energi dan ruang pusat data. Inovasi penyimpanan era AI Western Digital menyoroti UltraSMR, ePMR, HAMR, dan lapisan abstraksi perangkat lunak untuk beban kerja skala AI. Drive 32TB Seagate juga menunjukkan bahwa HDD berkapasitas tinggi terus berevolusi untuk kasus penggunaan video AI, NAS, dan pusat data.

Logika investasi untuk HDD berbeda dari HBM. HBM berkaitan dengan bandwidth, pengemasan, dan sertifikasi pelanggan. HDD berkaitan dengan kapasitas per drive, pembelian pelanggan cloud, biaya per terabyte, disiplin kapasitas, dan margin kotor. Pusat data AI secara bersamaan mengejar inferensi yang lebih cepat dan menghasilkan lebih banyak data, menciptakan lingkaran komputasi, generasi data, penyimpanan, dan pelatihan ulang. Semakin besar lingkaran ini, semakin sulit data dingin dan penyimpanan nearline untuk menghilang.

Ringkasan: HDD adalah fondasi kapasitas pusat data AI. Ia menangani penyimpanan jangka panjang, pengarsipan, pencadangan, data dingin, dan penyimpanan objek. Ia tidak mengejar latensi terendah atau menangani komputasi berlebar pita tinggi, tetapi tetap memiliki keunggulan dalam biaya per terabyte dan perluasan kapasitas skala besar. SSD dan HDD bukanlah substitusi sederhana. SSD menangani data panas dan akses berkecepatan tinggi, sementara HDD menangani data jangka panjang dan efisiensi ekonomi kapasitas.

Menganalisis Logika Investasi dengan Arsitektur Penyimpanan: Cara Menilai Urutan Manfaat HBM, DRAM, SSD, dan HDD

Dari perspektif investasi, segmen mana yang paling diuntungkan—HBM, DRAM, SSD, atau HDD—bergantung pada di mana kemacetan permintaan AI muncul. Jika kemacetannya berada pada pengiriman data GPU, HBM adalah penerima manfaat yang paling langsung. Jika kemacetannya berada pada konkurensi inferensi dan penjadwalan sistem, DRAM menjadi lebih penting. Jika kemacetannya berada pada pemuatan model dan data panas, SSD lebih relevan. Jika kemacetannya berada pada penyimpanan data jangka panjang dan biaya, HDD menjadi lebih kritis.

Kemacetan Produk yang Lebih Relevan Jenis Perusahaan Indikator Utama
Kemacetan bandwidth HBM Pemimpin chip memori Pangsa HBM, sertifikasi, hasil produksi
Kemacetan memori sistem DDR5 / DRAM Produsen DRAM Harga memori server, alokasi kapasitas
Kemacetan data panas SSD Enterprise Perusahaan NAND dan SSD Permintaan SSD enterprise, harga NAND
Kemacetan biaya kapasitas HDD Nearline Perusahaan HDD Kontrak pelanggan cloud, kapasitas per drive
Kemacetan efisiensi arsitektur Sistem penyimpanan berjenjang Platform penyimpanan enterprise Perangkat lunak, caching, manajemen data

Pelatihan AI dan inferensi AI menguntungkan bagian-bagian yang berbeda dari tumpukan teknologi. Pelatihan lebih bergantung pada GPU, HBM, pembacaan data pelatihan, dan penyimpanan checkpoint. Inferensi lebih bergantung pada konkurensi, cache konteks, akses data panas, dan retensi log. AI multimodal meningkatkan kebutuhan penyimpanan untuk gambar, video, dan audio. Alur kerja agen dan basis pengetahuan perusahaan meningkatkan kebutuhan untuk menyimpan data vektor, catatan interaksi, dan konteks jangka panjang. Seiring waktu, beban kerja inferensi yang ternormalisasi dapat membuat permintaan SSD dan HDD lebih stabil, sementara HBM lebih terkait dengan siklus platform GPU individu dan sertifikasi pelanggan.

Kesalahan yang paling umum dilakukan investor adalah menggabungkan seluruh "penyimpanan AI" ke dalam satu logika. Perusahaan chip memori, vendor SSD perusahaan, perusahaan HDD, dan penyedia sistem penyimpanan perusahaan memiliki daya ungkit laba dan logika valuasi yang berbeda-beda. Anda perlu melihat posisi produk, siklus harga, perubahan inventaris, perluasan kapasitas, konsentrasi pelanggan, dan biaya transaksi secara bersamaan.

Jika Anda mengikuti nama-nama HBM, DRAM, SSD, dan HDD dalam rantai penyimpanan pusat data AI, Anda perlu mengevaluasi bukan hanya tren industri tetapi juga biaya transaksi aktual. Biaya perdagangan saham AS sering kali mencakup lebih dari sekadar komisi. Biaya tersebut juga dapat mencakup biaya platform, biaya agen eksternal, biaya aktivitas perdagangan, spread bid-ask, dan biaya konversi valuta asing. Anda dapat menggunakan data pasar saham AS untuk membandingkan Micron, Western Digital, Seagate, Samsung ADR, atau ETF terkait, lalu memeriksa biaya perdagangan saham AS Biya untuk komisi, biaya platform, biaya agen eksternal, dan biaya yang ditampilkan pada pesanan. Biyabiaya komisi perdagangan saham adalah $0, sedangkan biaya platform, biaya agen eksternal, dan biaya lainnya mengikuti informasi biaya yang diungkapkan dan halaman pesanan.

Ringkasan: Analisis investasi penyimpanan AI tidak seharusnya berfokus hanya pada HBM atau pada "pertumbuhan data" secara umum. HBM sesuai dengan bandwidth. DRAM sesuai dengan memori sistem dan dukungan inferensi. SSD sesuai dengan data panas (hot data) dan persistensi berkecepatan tinggi. HDD sesuai dengan ekonomi kapasitas dan penyimpanan jangka panjang. Pendekatan yang lebih berguna adalah pertama-tama mengidentifikasi bottleneck pusat data, lalu memetakannya ke produk, perusahaan, siklus harga, valuasi, dan biaya perdagangan aktual.

Saat menganalisis arsitektur penyimpanan pusat data AI, Anda dapat menempatkan HBM, DRAM, SSD, dan HDD pada peta berlapis yang sama alih-alih mengejar satu titik panas tunggal. Semakin dekat suatu lapisan ke GPU, semakin besar ketergantungannya pada bandwidth dan latensi. Semakin dekat ke data lake, semakin besar ketergantungannya pada kapasitas dan biaya. Jika Anda ingin membandingkan perusahaan chip memori, SSD enterprise, HDD, dan infrastruktur pusat data yang terdaftar di AS dan Hong Kong, Anda dapat menggunakan Biya untuk melihat aset terkait dan menggunakan data pasar saham Hong Kong untuk memantau nama-nama semikonduktor dan perangkat keras di Asia. Anda juga dapat mengunduh Aplikasi Biya untuk mengelola daftar pantauan dan catatan transaksi.Ketersediaan layanan bergantung pada lokasi pengguna, hasil verifikasi identitas, aturan platform, serta hukum dan peraturan yang berlaku. Informasi pasar publik, aturan perdagangan, dan struktur biaya hanya untuk referensi analitis dan tidak merupakan nasihat investasi.

FAQ

Mengapa Pusat Data AI Membutuhkan HBM dan DRAM Sekaligus?

Pusat data AI membutuhkan HBM dan DRAM karena keduanya berada di tempat yang berbeda dan menjalankan tugas yang berbeda. HBM terutama mendukung komputasi GPU berbandwidth tinggi, sedangkan DRAM terutama mendukung memori sistem di sisi CPU, penjadwalan, prapemrosesan, dan luapan cache. HBM lebih cepat tetapi lebih mahal, sementara DRAM lebih cocok untuk kapasitas tingkat sistem dan orkestrasi yang fleksibel.

Apakah Pertumbuhan Inferensi AI Meningkatkan Permintaan SSD?

Ya. Pertumbuhan inferensi AI dapat meningkatkan permintaan untuk pemuatan model, akses data panas, penulisan log, penyimpanan konteks pengguna, dan sebagian caching persisten. SSD menyeimbangkan kecepatan, kapasitas, dan penyimpanan non-volatil, sehingga cocok untuk lapisan data panas. Permintaan aktual masih bergantung pada arsitektur model, konkurensi, dan strategi caching.

Apakah HDD Masih Memiliki Nilai Investasi di Pusat Data AI?

HDD mungkin masih memiliki nilai investasi di pusat data AI dalam kondisi yang tepat. HDD tidak cocok untuk komputasi ber-bandwidth tinggi atau akses data panas ber-latensi rendah, tetapi memiliki keunggulan biaya per terabyte untuk data mentah, pengarsipan, pencadangan, data dingin, dan penyimpanan objek. Pengadaan pelanggan cloud, kapasitas per drive, dan margin kotor adalah faktor-faktor kunci yang perlu diperhatikan.

Apakah Pertumbuhan Permintaan HBM Menguntungkan Semua Perusahaan Memori?

Tidak selalu. Permintaan HBM terutama menguntungkan perusahaan yang memiliki kemampuan produksi massal HBM tingkat lanjut, kemitraan pengemasan, kontrol yield, dan kualifikasi pelanggan. Perusahaan NAND biasa, HDD, atau memori ceruk memiliki jalur keuntungan yang berbeda dan tidak boleh dikelompokkan dalam logika yang sama. Investor sebaiknya meneliti campuran produk dan paparan pendapatan setiap perusahaan.

Bagaimana Investor Biasa Dapat Melacak Siklus Memori AI?

Investor ritel dapat memantau progres sertifikasi HBM, harga DRAM dan NAND, pengadaan SSD korporat, kapasitas pengiriman HDD nearline, CAPEX penyedia cloud, serta margin kotor perusahaan memori. Tidak ada satu indikator pun yang cukup untuk menilai siklus penuh. Sebaiknya gabungkan sinyal harga, persediaan, kapasitas, dan valuasi.

Apakah Arsitektur Penyimpanan Pusat Data AI Mempengaruhi Pemilihan ETF?

Ya. ETF yang condong ke HBM dan DRAM lebih sensitif terhadap siklus harga chip memori, sedangkan dana yang mencakup perusahaan SSD, HDD, atau sistem penyimpanan korporat mungkin mencerminkan logika kapasitas dan infrastruktur pusat data lebih kuat. Sebelum memilih, investor harus meninjau kepemilikan, rasio biaya, eksposur geografis, konsentrasi, dan keterbukaan risiko.

*Artikel ini disediakan untuk tujuan informasi umum dan tidak merupakan nasihat hukum, pajak, atau nasihat profesional lainnya dari BiyaPay atau anak perusahaan serta afiliasinya, dan tidak dimaksudkan sebagai pengganti untuk mendapatkan nasihat dari penasihat keuangan atau profesional lainnya.

Kami tidak membuat pernyataan atau jaminan apa pun, baik tersurat maupun tersirat, mengenai keakuratan, kelengkapan, atau ketepatan waktu isi publikasi ini.

Blog terkait

Pilih Negara atau Wilayah untuk Membaca Blog Lokal