Bagaimana Cara Kerja SSD dan HDD Bersama di Pusat Data AI? Perbandingan Performa, Kapasitas, Biaya, dan Data Panas vs. Dingin

Arsitektur penyimpanan SSD berjenjang dan HDD di pusat data AI

Pusat data AI tidak sekadar memilih antara SSD dan HDD. Mereka menerapkan tiering penyimpanan berdasarkan suhu data, frekuensi akses, persyaratan latensi, dan biaya per satuan kapasitas. SSD menangani akses ber-throughput tinggi, ber-latensi rendah, dan sangat konkuren, sehingga cocok untuk pipeline data pelatihan, cache inferensi, pencarian vektor, dan checkpoint. HDD mendukung kapasitas skala besar, retensi jangka panjang, dan akses yang jarang, sehingga cocok untuk data lake, dataset historis, log, backup, dan arsip. Saat mengevaluasi arsitektur penyimpanan AI, Anda harus mempertimbangkan kinerja, kapasitas, TCO, konsumsi energi, waktu pemulihan, dan siklus hidup data secara keseluruhan, alih-alih hanya menilai berdasarkan kecepatan drive atau biaya per terabyte.

Poin-Poin Penting

  • SSD lebih baik untuk data panas, I/O latensi rendah, penyuplaian GPU, indeks vektor, dan cache inferensi.
  • HDD lebih baik untuk data lake skala besar, data hangat/dingin, penyimpanan jangka panjang, dan akses frekuensi rendah.
  • Bottleneck penyimpanan AI dapat menurunkan utilisasi GPU, sementara NVMe dan GDS dapat mengurangi overhead perpindahan data.
  • Arsitektur all-flash menawarkan kinerja yang lebih kuat, tetapi menyimpan semua data dingin pada SSD mungkin tidak ekonomis.
  • Tiering data panas/dingin bergantung pada frekuensi akses, waktu pemulihan, nilai bisnis, dan batasan biaya.
  • Untuk memahami rantai pasok penyimpanan, pantau SSD perusahaan, HDD nearline, capex cloud, dan siklus harga.

Mengapa Pusat Data AI Tidak Bisa Hanya Berfokus pada GPU

Server pusat data AI dan infrastruktur penyimpanan

Isu inti di pusat data AI bukan sekadar "semakin banyak GPU semakin baik." GPU, jaringan, memori, dan penyimpanan harus bekerja bersama sebagai satu pipeline data yang berkelanjutan. Jika data pelatihan, bobot model, checkpoint, atau cache inferensi tidak dapat mencapai node komputasi dengan cukup cepat, GPU dapat menunggu I/O, dan kapasitas komputasi yang mahal akan terhambat oleh bottleneck penyimpanan. Dalam pengertian itu, pembagian tugas antara SSD dan HDD sudah jelas: SSD melindungi hot path yang sensitif terhadap performa, sementara HDD menyediakan fondasi kapasitas. IBM menggambarkan pusat data AI sebagai infrastruktur khusus untuk pelatihan, penerapan, dan penyampaian AI, di mana komputasi canggih, jaringan, penyimpanan, daya, dan pendinginan secara bersama-sama menentukan efisiensi workload.

Beban kerja AI memperkuat tekanan penyimpanan karena jenis datanya lebih kompleks. Sistem bisnis tradisional mungkin terutama memproses catatan transaksi, berkas pengguna, atau log. Namun, pusat data AI perlu menangani teks, gambar, audio, video, kode, data sensor, indeks vektor, bobot model, keluaran pelatihan perantara, dan log inferensi. Sebagian dari data ini diakses secara sering, sementara sebagian besar disimpan dalam jangka waktu lama. Menempatkan semuanya di SSD dapat meningkatkan kinerja, tetapi dapat menciptakan tekanan biaya dan kapasitas yang berat. Menempatkan semuanya di HDD dapat mengurangi biaya kapasitas, tetapi dapat memperlambat jalur panas (hot path) pelatihan dan inferensi.

Anda dapat memecah kebutuhan penyimpanan AI berdasarkan siklus hidup data terlebih dahulu:

Jenis Data Frekuensi Akses Media yang Direkomendasikan Kendala Utama
Batch pelatihan dan sampel aktif Tinggi NVMe SSD Throughput, latensi, utilisasi GPU
Checkpoint model Sedang hingga tinggi SSD atau lapisan cache SSD Bandwidth tulis, waktu pemulihan
Indeks vektor dan basis pengetahuan panas RAG Tinggi SSD I/O acak, latensi ekor
Log terbaru dan data evaluasi Sedang SSD + HDD Biaya dan efisiensi kueri
Dataset historis dan cadangan Rendah HDD, penyimpanan objek Kapasitas, periode retensi, SLA pemulihan
Retensi kepatuhan dan arsip Sangat rendah HDD, penyimpanan objek arsip Biaya, integritas, persyaratan audit

Penyimpanan berjenjang (tiering) untuk AI juga perlu membedakan antara bottleneck pelatihan dan bottleneck inferensi. Beban kerja pelatihan lebih peduli pada throughput berkelanjutan, pembacaan paralel, penulisan checkpoint, dan pra-pemrosesan data. Beban kerja inferensi lebih peduli pada latensi rendah, permintaan konkuren, cache hit rate, kecepatan pemuatan model, dan pengambilan vektor yang stabil. GPUDirect Storage dari NVIDIA penting karena bertujuan menciptakan jalur data yang lebih langsung antara penyimpanan NVMe/NVMe-oF lokal atau remot dan memori GPU, sehingga mengurangi penahapan (staging) yang tidak perlu pada CPU dan memori sistem dalam jalur I/O tradisional.

Dari sudut pandang arsitektur, SSD dan HDD tidak saling menggantikan. Keduanya berada pada lapisan yang berbeda. Data panas menggunakan SSD untuk mengurangi waktu tunggu. Data hangat menggunakan caching dan kebijakan siklus hidup untuk menyeimbangkan kinerja dan biaya. Data dingin menggunakan HDD atau penyimpanan objek untuk menurunkan biaya kapasitas jangka panjang. Jika Anda hanya melihat jumlah GPU, Anda mungkin melewatkan apakah pipeline data mampu terus memasok data ke GPU. Jika Anda hanya melihat kecepatan SSD, Anda mungkin melewatkan biaya penyimpanan dataset historis dalam jumlah masif. Jika Anda hanya melihat kapasitas HDD, Anda mungkin meremehkan persyaratan respons dari hot path pelatihan dan inferensi.

Ringkasan: Pembagian kerja antara SSD dan HDD di pusat data AI bukanlah tentang medium mana yang lebih canggih. Ini tentang lapisan data mana yang paling sesuai untuk dilayani oleh setiap medium. SSD cocok untuk data panas yang secara langsung memengaruhi kecepatan pelatihan, respons inferensi, dan utilisasi GPU. HDD cocok untuk penyimpanan jangka panjang, akses frekuensi rendah, dan kumpulan kapasitas berskala besar. Arsitektur yang efektif biasanya hibrida: SSD menangani I/O front-end berkinerja tinggi, kebijakan caching dan siklus hidup memindahkan data antar lapisan, dan HDD mendukung data lake dan arsip berskala besar. Pendekatan ini membantu menghindari waktu idle GPU sekaligus mencegah data bernilai rendah yang jarang diakses menempati media berkinerja tinggi yang mahal.

Apa Peran SSD di Pusat Data AI? Kinerja Tinggi, Latensi Rendah, dan Menyuplai GPU

SSD korporat dan perangkat keras penyimpanan berkinerja tinggi

SSD terutama menangani data panas dan jalur yang sensitif terhadap kinerja di pusat data AI. Anda dapat menganggapnya sebagai lapisan cache berkecepatan tinggi dan ruang kerja kinerja di samping klaster GPU. Prefetching data pelatihan, checkpoint aktif, cache inferensi, basis data vektor, indeks pengambilan RAG, dan pemuatan bobot model semuanya lebih cocok disimpan di SSD, terutama SSD NVMe. Nilai SSD tidak hanya terletak pada "kecepatan baca/tulis yang lebih cepat." Latensi yang lebih rendah, IOPS yang lebih tinggi, kemampuan konkurensi yang lebih kuat, serta waktu respons yang lebih stabil dapat langsung memengaruhi apakah GPU tetap termanfaatkan secara penuh.

Dalam skenario pelatihan, SSD sering mendukung aliran data dengan throughput tinggi. Pelatihan model besar memerlukan pembacaan berkelanjutan dari kumpulan data masif dan penulisan checkpoint secara berkala, sehingga pelatihan dapat dipulihkan setelah kegagalan, perubahan parameter, atau peristiwa penskalaan. Jika penulisan checkpoint terlalu lambat, pelatihan mungkin berhenti sementara. Jika pemuatan dan pra-pemrosesan data tidak dapat mengikuti, batch GPU mungkin mengalami celah menganggur. Dalam skenario inferensi, SSD sering digunakan untuk pemuatan model, caching, indeks vektor, dan pencatatan log. RAG, sistem rekomendasi, pengambilan multimodal, dan layanan API dengan konkurensi tinggi sangat sensitif terhadap akses acak dan latensi ekor.

NVIDIA GPUDirect Storage Overview Guide menjelaskan bagaimana GDS berfokus pada sistem file, API cuFile, dan jalur data antara GPU dan penyimpanan. Ini bukan sekadar memasang SSD ke dalam server. Ini adalah tentang mengurangi salinan yang berlebihan di jalur I/O GPU dan menurunkan overhead perpindahan data yang dimediasi CPU. Untuk klaster AI, hal ini penting karena seiring meningkatnya volume data, jumlah GPU, dan pekerjaan simultan, jalur staging CPU tradisional dapat menjadi hambatan yang semakin besar.

Pemilihan SSD enterprise tidak boleh hanya berfokus pada kapasitas. SSD konsumen mungkin terlihat cepat berdasarkan angka baca/tulis sekuensial yang diiklankan, tetapi pusat data AI lebih mengutamakan performa berkelanjutan, QoS, daya tahan tulis (write endurance), perlindungan kehilangan daya, stabilitas firmware, standar antarmuka, dan kemudahan servis. Portofolio SSD AI dari Micron menekankan PCIe Gen5, latensi rendah, QoS, serta beban kerja pelatihan dan inferensi AI, yang menunjukkan bahwa SSD enterprise berkembang dari sekadar perangkat kapasitas sederhana menjadi akselerator hot-path AI yang terspesialisasi.

Pemilihan SSD enterprise harus berfokus pada metrik-metrik berikut:

Metrik Alasan Pentingnya Dampak pada Beban Kerja AI
Random read/write IOPS Menentukan kemampuan akses file kecil dan indeks Mempengaruhi pencarian vektor, metadata, dan cache
Throughput sekuensial Menentukan kecepatan streaming file besar Mempengaruhi aliran data pelatihan dan checkpoint
Latensi dan latensi ekor Menentukan stabilitas respons Mempengaruhi SLA inferensi dan waktu tunggu GPU
QoS Menentukan konsistensi kinerja di bawah tekanan Mempengaruhi stabilitas klaster multi-tenant
DWPD / TBW Mengukur daya tahan penulisan Mempengaruhi checkpoint yang sering dan penulisan log
Perlindungan kehilangan daya Mengurangi risiko kehilangan data saat gangguan listrik Mempengaruhi keandalan tingkat perusahaan
Faktor bentuk dan antarmuka PCIe, U.2, E1.S, E3.S, dan lainnya Mempengaruhi kepadatan rak dan pemeliharaan

Namun, SSD tidak cocok untuk setiap dataset AI tanpa batasan. Korpus historis, log yang kedaluwarsa, dataset gambar dan video yang jarang diakses, versi model lama, serta cadangan jangka panjang dapat menjadi mahal jika terus-menerus berada di SSD. Seiring bertambahnya volume data AI, biaya pengadaan SSD, siklus pasokan NAND, kepadatan daya, dan kebutuhan pendinginan juga akan memengaruhi total biaya kepemilikan. SSD NVMe 7600 dari Micron menekankan latensi rendah, QoS, dan performa pusat data, yang memperkuat gagasan bahwa nilai SSD terkonsentrasi pada lapisan aktif yang sensitif terhadap performa, bukan di semua lapisan kapasitas.

Ringkasan: SSD merupakan lapisan akselerasi kinerja pusat data AI. SSD paling cocok untuk data panas, akses konkurensi tinggi, inferensi latensi rendah, prefetching data pelatihan, checkpoint, indeks vektor, dan pemuatan model. SSD membantu GPU menerima data lebih cepat, mengurangi waktu tunggu I/O, dan meningkatkan stabilitas respons dalam kluster multi-penyewa. Namun, SSD tidak seharusnya menjadi tempat penyimpanan bawaan untuk semua data, terutama dataset jangka panjang dengan frekuensi rendah. Pendekatan yang lebih rasional adalah menempatkan SSD pada jalur panas (hot path), menggunakan HDD atau penyimpanan objek sebagai lapisan kapasitas, dan menghubungkannya melalui kebijakan siklus hidup, strategi caching, serta aturan tata kelola data.

Apa Peran HDD di Pusat Data AI? Fondasi Kapasitas, Data Lake, dan Penyimpanan Data Dingin

Komponen HDD dan lapisan kapasitas pusat data

HDD terutama menangani kapasitas besar, akses yang jarang, dan penyimpanan jangka panjang di pusat data AI. HDD tidak cocok untuk menggantikan SSD di jalur panas berlatensi rendah, tetapi sangat cocok untuk korpus pelatihan, log historis, dataset gambar dan video, versi model lama, cadangan, data audit, dan arsip kepatuhan. AI tidak membuat HDD menjadi tidak relevan. Sebaliknya, karena kebutuhan pembuatan data dan penyimpanan jangka panjang terus meningkat, HDD nearline tetap menjadi fondasi kapasitas yang penting bagi penyedia cloud, sistem penyimpanan objek, dan danau data skala besar.

Pertumbuhan data AI memiliki pola yang jelas: sebagian besar data mungkin tidak diakses setiap hari, tetapi tidak dapat dihapus dengan mudah. Pelatihan model besar memerlukan korpus multi-versi. AI perusahaan memerlukan basis pengetahuan privat. Sistem inferensi menghasilkan log dalam jumlah besar. Evaluasi model menyimpan hasil antara. Kasus penggunaan kepatuhan memerlukan catatan audit. Selama frekuensi aksesnya rendah, persyaratan waktu pemulihannya moderat, dan nilai bisnisnya jangka panjang, HDD memiliki keunggulan biaya dan kapasitas yang jelas.

Seagate menghubungkan hard drive berkapasitas tinggi dengan pusat data, permintaan penyimpanan AI, penempatan data, dan analitik edge dalam pengumuman Exos M 30TB-nya. Western Digital juga menekankan peta jalan berkapasitas tinggi untuk pelanggan hyperscale dalam pembaruan 40TB UltraSMR ePMR HDD-nya, termasuk jalur masa depan menuju HAMR dan hard drive 100TB+. Langkah-langkah ini menunjukkan bahwa vendor HDD tidak meninggalkan infrastruktur AI; mereka terus berevolusi menuju kapasitas drive yang lebih tinggi, biaya per unit kapasitas yang lebih rendah, dan kesesuaian yang lebih baik untuk penerapan hyperscale.

HDD lebih cocok untuk jenis data AI berikut:

Jenis Data Mengapa HDD Cocok Yang Perlu Diperhatikan
Korpus pelatihan historis Kapasitas besar, frekuensi akses rendah Pengindeksan dan pengelolaan metadata
Data gambar dan video frekuensi rendah Ukuran file besar, akumulasi jangka panjang Perencanaan waktu pemulihan
Versi model lama Tidak sering dimuat tetapi tidak dapat dihapus dengan mudah Kebijakan penyimpanan versi
Arsip log inferensi Ditulis sekali, lebih jarang dikueri setelahnya Memisahkan log terbaru dari log historis
Salinan cadangan dan pemulihan bencana Kapasitas dan keandalan sangat penting Erasure coding dan replika di lokasi terpisah
Data audit kepatuhan Periode penyimpanan panjang Regulasi lokal dan persyaratan audit

Kelemahan HDD juga sangat jelas. Karena struktur mekanisnya, HDD jauh lebih lemah daripada SSD dalam hal akses acak, latensi rendah, dan IOPS tinggi. Dalam inferensi dengan konkurensi tinggi, basis data vektor, dataset pelatihan aktif, dan pemulihan checkpoint yang sering terjadi, HDD dapat menjadi hambatan kinerja. Klaster HDD berskala besar juga perlu mengelola domain kegagalan, waktu rekonstruksi, kepadatan rak, getaran, strategi RAID atau erasure-coding, verifikasi latar belakang, dan SLA pemulihan. Semakin besar kapasitas drive, semakin cermat jendela pemulihan setelah kegagalan drive harus dirancang.

Tempat yang tepat untuk HDD di pusat data AI bukanlah sebagai "pengganti yang lambat," melainkan sebagai fondasi kapasitas. SSD di sisi depan menyediakan kecepatan. HDD di sisi belakang menyediakan skala. Object storage, sistem file terdistribusi, lapisan cache, dan kebijakan siklus hidup menghubungkan keduanya. Platform penyimpanan pusat data dari Western Digital menyoroti AI, HPC, cloud, NVMe-oF, TCO, dan kapasitas tinggi secara bersamaan, mencerminkan arah penyimpanan AI: kombinasi multi-lapisan alih-alih arsitektur dengan media tunggal.

Ringkasan: HDD tetap penting di pusat data AI karena AI tidak hanya mengonsumsi data waktu nyata. AI juga terus-menerus membuat dan menyimpan data frekuensi rendah dalam jumlah besar. HDD unggul dalam biaya per satuan kapasitas, retensi jangka panjang, penerapan skala besar, dan perluasan kapasitas tinggi. Kelemahannya adalah akses acak, latensi rendah, dan kinerja konkurensi tinggi. Anda dapat memandang HDD sebagai fondasi untuk data lake AI dan lapisan data dingin, bukan sebagai media utama untuk jalur panas pelatihan dan inferensi. Selama beban kerja AI memerlukan retensi jangka panjang untuk korpus, log, cadangan, dan model historis, HDD kecil kemungkinannya untuk sepenuhnya digantikan oleh SSD.

SSD vs. HDD di Pusat Data AI: Kinerja, Kapasitas, Biaya, Konsumsi Energi, dan Kepadatan Rak

Perbandingan antara SSD dan HDD tidak boleh berhenti pada "mana yang lebih cepat" atau "mana yang lebih murah." SSD lebih unggul dalam latensi, IOPS, akses acak, dan performa per unit, sehingga cocok untuk jalur panas yang sensitif terhadap performa. HDD memiliki keunggulan dalam biaya per unit kapasitas, penyimpanan jangka panjang, dan kolam kapasitas skala besar, sehingga cocok untuk data hangat dan dingin. Logika pemilihan yang sebenarnya harus dimulai dari tujuan bisnis: jika data secara langsung memengaruhi utilisasi GPU, latensi inferensi, dan respons konkuren, SSD harus diprioritaskan; jika data terutama digunakan untuk penyimpanan jangka panjang, pemulihan frekuensi rendah, dan pengendalian biaya, HDD atau penyimpanan objek berbasis HDD harus diprioritaskan.

Dalam hal performa, SSD memiliki keunggulan yang sangat jelas. SSD NVMe dapat menyediakan konkurensi yang lebih kuat, latensi yang lebih rendah, dan kemampuan baca/tulis acak yang lebih baik, sehingga cocok untuk file kecil, indeks, cache, dan pemuatan model. HDD lebih baik untuk pembacaan/penulisan sekuensial dan pemindaian batch, bukan untuk permintaan acak dalam jumlah besar. Tabel di bawah ini menawarkan perbandingan singkat:

Dimensi Perbandingan SSD Lebih Baik Untuk HDD Lebih Baik Untuk
Latensi Skenario latensi sub-milidetik atau latensi ekor rendah Tugas batch yang tidak sensitif terhadap latensi
IOPS I/O acak dengan konkurensi tinggi I/O sekuensial dengan konkurensi rendah
Throughput Aliran data pelatihan cepat dan checkpoint Pemindaian sekuensial besar dan migrasi data
Biaya kapasitas Data panas dan kumpulan data bernilai tinggi yang lebih kecil Kolam kapasitas skala PB/EB
Evaluasi energi IOPS/W dan densitas kinerja TB/W dan densitas kapasitas, tergantung pada sistem
Densitas rak Densitas kinerja tinggi Densitas kapasitas tinggi
Fokus pemeliharaan Firmware, daya tahan, desain termal Rebuild, getaran, domain kegagalan

Evaluasi biaya sangat mudah disalahpahami. Banyak orang hanya membandingkan harga satuan dari masing-masing drive dan mengabaikan TCO. Untuk SSD, Anda perlu mempertimbangkan biaya per TB, biaya per IOPS, ketahanan penulisan (write endurance), pendinginan, daya, dan peningkatan antarmuka. Untuk HDD, Anda perlu mempertimbangkan kepadatan enclosure, waktu rebuild, tingkat kegagalan, operasional, penggantian, dan overhead erasure-coding. Dalam diskusi biaya penyimpanan enterprise, Tom's Hardware mencatat bahwa kesenjangan biaya per kapasitas antara SSD dan HDD enterprise dapat berubah tergantung pada kondisi supply-demand NAND dan siklus pengadaan, serta bahwa penerapan hybrid SSD + HDD sering lebih mudah untuk mengoptimalkan biaya di lapisan kapasitas dibandingkan solusi all-SSD. Harga pasar seperti itu dapat berubah seiring waktu dan tidak boleh dianggap sebagai rasio jangka panjang yang tetap, tetapi hal ini menyoroti satu poin penting: keputusan penyimpanan AI tidak dapat dibuat hanya berdasarkan metrik kinerja.

Penggunaan energi dan kepadatan rak juga tidak dapat dinilai hanya berdasarkan konsumsi daya satu drive. Sebuah SSD mungkin mengonsumsi daya yang cukup besar per drive, tetapi ia menawarkan kinerja per watt yang kuat dan keunggulan latensi rendah. Sebuah HDD memiliki kinerja per drive yang lebih lemah, tetapi tetap menarik dari segi biaya per satuan kapasitas dan penskalaan lapisan kapasitas. Pusat data pada akhirnya memperhatikan kapasitas efektif per rak, throughput per watt, batas pendinginan, jendela pemeliharaan, dan apakah pemulihan kegagalan dapat memenuhi persyaratan SLA. Untuk klaster AI, jika SSD benar-benar meningkatkan utilisasi GPU, biaya penyimpanan tambahan mungkin dapat dibenarkan. Namun jika data jarang diakses selama bertahun-tahun, menyimpannya di SSD bisa menjadi alokasi sumber daya yang buruk.

Perhitungan TCO penyimpanan dapat mencakup:

  • Biaya pengadaan: SSD, HDD, enclosure, controller, dan perangkat jaringan.
  • Biaya kinerja: biaya per GB/s, per IOPS, dan per akses latensi rendah.
  • Biaya kapasitas: biaya per TB, per PB, dan sepanjang periode retensi jangka panjang.
  • Biaya operasional: penggantian, pemantauan, firmware, pemulihan, dan tenaga kerja.
  • Biaya energi: daya, pendinginan, kepadatan rak, dan anggaran daya.
  • Biaya bisnis: waktu menganggur GPU, gangguan pelatihan, dan risiko SLA inferensi.
  • Biaya migrasi: pemindahan data panas/dingin, replikasi lintas cluster, dan pemulihan arsip.

Jika Anda melihat rantai pasokan penyimpanan dari perspektif investasi atau alokasi aset, logika biaya serupa juga berlaku untuk perdagangan. Permintaan penyimpanan AI mungkin meningkatkan perhatian pada enterprise SSD, NAND, nearline HDD, pusat data awan, dan ETF terkait, tetapi volatilitas pasar dan biaya juga memengaruhi hasil aktual. Pengguna yang memenuhi syarat dapat meninjau biaya perdagangan saham AS Biya untuk memahami bagaimana komisi, biaya platform, biaya agen eksternal, dan biaya lainnya ditampilkan; Biya tidak mengenakan komisi USD untuk perdagangan saham AS, sedangkan biaya platform, biaya agen eksternal, dan biaya lainnya mengacu pada pusat biaya dan halaman pesanan. Informasi pasar publik dan struktur biaya bukan merupakan nasihat investasi.Sebelum berdagang, Anda sebaiknya memeriksa laporan Anda, toleransi risiko, dan persyaratan regulasi lokal yang berlaku.

Ringkasan: Perbedaan antara SSD dan HDD harus dievaluasi di seluruh aspek kinerja, kapasitas, biaya, penggunaan energi, dan kompleksitas pemeliharaan. SSD lebih cocok untuk data panas bernilai tinggi, sedangkan HDD lebih cocok untuk lapisan kapasitas jangka panjang. SSD menyelesaikan masalah pengoperan GPU, inferensi latensi rendah, dan akses konkurensi tinggi. HDD menyelesaikan data lake, cadangan, log, dan arsip. Arsitektur all-flash mungkin cocok untuk skenario kinerja ekstrem, tetapi tidak otomatis cocok untuk semua data AI. Nilai dari arsitektur hibrida adalah bahwa ia menggunakan media berkinerja tinggi yang mahal di tempat yang menciptakan efisiensi paling besar, sementara menempatkan tekanan kapasitas frekuensi rendah pada lapisan penyimpanan yang lebih ekonomis.

Bagaimana Data Panas dan Dingin Harus Ditingkatkan? Model Penerapan untuk Pelatihan AI, Inferensi, Log, dan Pencadangan

Penentuan tingkatan data panas/dingin adalah metode inti untuk mengendalikan biaya dan melindungi kinerja di pusat data AI. Secara sederhana, data yang sering diakses, sensitif terhadap latensi, dan secara langsung memengaruhi GPU atau respons inferensi harus masuk ke lapisan data panas dan lebih baik menggunakan SSD. Data yang mungkin digunakan kembali untuk pelatihan, kueri, atau evaluasi dalam waktu dekat harus masuk ke lapisan hangat (warm layer), menggunakan cache SSD ditambah HDD atau penyimpanan objek. Data jangka panjang yang jarang diakses harus masuk ke lapisan dingin, menggunakan HDD, penyimpanan objek, atau penyimpanan arsip. Kriteria kuncinya bukanlah nama file, melainkan frekuensi akses, waktu pemulihan, nilai bisnis, dan periode retensi sesuai regulasi.

Lapisan Data Panas: SSD Menangani Akses Real-Time dan Aliran Data GPU Berkecepatan Tinggi

Lapisan data panas (hot data layer) melayani data yang dibutuhkan saat ini, sering digunakan, dan sangat penting bagi bisnis jika menjadi lambat. Contoh tipikalnya meliputi set pelatihan aktif, batch pelatihan, bobot model, checkpoint aktif, indeks vektor, basis pengetahuan panas RAG, cache inferensi, log permintaan terbaru, dan fitur real-time. Persyaratan terpenting di sini adalah throughput, latensi rendah, dan stabilitas. Untuk pelatihan model besar, lapisan data panas menentukan apakah GPU perlu menunggu. Untuk layanan inferensi, lapisan ini memengaruhi latensi token pertama, tingkat keberhasilan cache, dan stabilitas konkurensi.

Lapisan data panas biasanya menggunakan NVMe SSD, SSD lokal, NVMe-oF, sistem berkas all-flash terdistribusi, atau kumpulan cache SSD. Dalam sebuah diskusi tentang kinerja AI dan efisiensi energi, Micron merujuk pada tolok ukur seperti MLPerf Storage, yang menunjukkan bahwa penyimpanan AI telah berevolusi dari "komponen kapasitas" menjadi "komponen efisiensi komputasi." Jika SSD dapat mengurangi waktu tunggu GPU, nilainya tidak boleh dinilai hanya dari biaya per TB.

Lapisan Data Hangat: Kombinasi SSD + HDD dengan Migrasi Berkala

Lapisan data hangat adalah lapisan yang paling mudah salah menilai. Ini bukan data dingin, karena masih mungkin dikueri, digunakan kembali untuk pelatihan, atau diputar ulang dalam waktu dekat. Ini juga bukan data panas, karena tidak perlu menempati media berkinerja tertinggi secara permanen. Data hangat yang khas mencakup sampel pelatihan 30–180 hari terakhir, hasil evaluasi model, log inferensi terbaru, data pengujian A/B, kumpulan data berlabel manusia, versi model terbaru, dan fitur yang dapat digunakan kembali. Data hangat sering dikelola di antara cache SSD, kolam kapasitas HDD, penyimpanan objek, atau sistem berkas terdistribusi, dengan migrasi berdasarkan frekuensi akses.

Apache Doris membahas tiering di berbagai SSD, HDD, dan object storage, dengan mencatat bahwa data yang baru ditulis dapat pertama-tama berada di lapisan berkinerja lebih tinggi dan kemudian dipindahkan ke object storage setelah periode pendinginan. Pusat data AI dapat menggunakan logika serupa: data baru pertama-tama masuk ke lapisan panas atau hangat, dan setelah pelatihan selesai atau frekuensi akses menurun, data tersebut dipindahkan ke lapisan yang lebih murah. Intinya bukan pemindahan file secara manual, melainkan kebijakan siklus hidup yang terotomatisasi.

Lapisan Data Dingin: HDD Menangani Retensi Jangka Panjang dan Akses yang Tidak Sering

Lapisan data dingin (cold data layer) menyimpan data yang jarang diakses tetapi masih perlu disimpan. Contoh umumnya meliputi korpus historis, dataset gambar dan video dengan frekuensi rendah, versi model lama, cadangan jangka panjang, data audit kepatuhan, salinan pemulihan bencana, dan log yang telah kedaluwarsa. HDD, object storage, dan penyimpanan arsip lebih cocok untuk jenis data ini. AWS S3 Storage Classes memisahkan penyimpanan berdasarkan pola akses, termasuk kelas akses sering, akses tidak sering, dan arsip. S3 Lifecycle juga memungkinkan objek berpindah antar kelas penyimpanan berdasarkan aturan untuk mengoptimalkan biaya.

Penyusunan tiering data panas/dingin dapat diimplementasikan sebagai berikut:

Lapisan Data Tipikal Media yang Direkomendasikan Tujuan Utama Risiko Utama
Data panas Set pelatihan aktif, indeks vektor, cache inferensi NVMe SSD Latensi rendah, throughput tinggi Biaya tinggi, tekanan tulis berat
Data hangat Sampel terbaru, log terbaru, data evaluasi Cache SSD + HDD / penyimpanan objek Menyeimbangkan biaya dan efisiensi kueri Aturan migrasi yang buruk dapat menimbulkan pemborosan
Data dingin Korpus historis, cadangan, arsip audit HDD, penyimpanan objek arsip Penyimpanan jangka panjang berbiaya rendah Pemulihan lambat, tata kelola kompleks
Data arsip Retensi regulasi, salinan pemulihan bencana Penyimpanan arsip, replika di lokasi terpisah Kepatuhan dan DR Biaya pengambilan, jendela pemulihan

Ringkasan: Pengaturan tiering data panas/dingin bukanlah label formal di bidang IT. Ini adalah mekanisme kunci untuk menurunkan biaya dan meningkatkan efisiensi di pusat data AI. Data panas harus diprioritaskan dari sisi kinerja dan disimpan di SSD. Data hangat harus disesuaikan secara dinamis berdasarkan frekuensi akses, menggunakan cache SSD dan kolam kapasitas HDD untuk menyeimbangkan efisiensi dan biaya. Data dingin harus memprioritaskan biaya kapasitas jangka panjang, retensi kepatuhan, dan SLA pemulihan, sehingga HDD atau penyimpanan objek arsip lebih cocok. Strategi tiering yang kuat mencegah GPU menganggur karena pembacaan data panas yang lambat, sekaligus menghindari biaya penyimpanan data bertahun-tahun yang jarang diakses pada SSD yang mahal.

Apakah Masa Depan Akan All-Flash? Tren Arsitektur SSD, HDD, dan Hibrida

Pusat data AI masa depan akan menggunakan lebih banyak penyimpanan all-flash di lapisan tertentu, tetapi itu tidak berarti HDD akan menghilang. Pelatihan berkinerja tinggi, inferensi waktu nyata, pencarian vektor, RAG, checkpoint yang sering, dan I/O GPU-direct akan mendorong adopsi SSD yang lebih tinggi. Namun data lake, korpus historis, pencadangan, retensi kepatuhan, dan akses yang jarang tetap memerlukan media berkapasitas tinggi dengan biaya rendah. Arah yang lebih realistis adalah SSD terus naik ke lapisan kinerja, HDD terus menjadi tulang punggung lapisan kapasitas, dan tiering berbasis perangkat lunak menempatkan data di tempat yang semestinya.

All-Flash Akan Meluas di Skenario AI Berkinerja Tinggi

Arsitektur all-flash akan berkembang dalam skenario tertentu, terutama klaster AI dengan persyaratan yang sangat tinggi untuk latensi, throughput, pemulihan, dan stabilitas konkurensi. Pelatihan model skala besar, platform eksperimen frekuensi tinggi, pengambilan multimodal real-time, inferensi latensi rendah kelas finansial, rekomendasi daring, dan basis data vektor skala besar lebih cenderung menggunakan SSD atau sistem all-flash. Seiring dengan evolusi PCIe Gen5, PCIe Gen6, E1.S, E3.S, SSD QLC berkapasitas tinggi, dan pendinginan cair, SSD akan terus meningkat dalam kepadatan kinerja dan fleksibilitas penerapan.

Namun, semua-flash tidak berarti optimal di semua skenario. Banyak data AI memperoleh nilai bisnisnya dari akumulasi jangka panjang, bukan dari akses waktu nyata. Korpus historis mungkin hanya digunakan kembali bertahun-tahun kemudian untuk pelatihan ulang. Versi model lama mungkin hanya diperlukan untuk audit atau rollback. Banyak log mungkin hanya ditanyakan selama analisis insiden. Jika semua data ini ditempatkan pada SSD, sumber daya berkinerja tinggi dapat terbuang sia-sia. All-flash lebih cocok untuk ruang kerja berkinerja tinggi, bukan sebagai kolam kapasitas tanpa diskriminasi.

HDD Tidak Akan Mudah Meninggalkan Lapisan Kapasitas AI

Nilai jangka panjang HDD berasal dari ekonomi skala kapasitas. Sistem AI perlu menyimpan lebih banyak data mentah, data turunan, dan versi model, dan sebagian besar data tersebut tidak memerlukan akses berlatensi rendah. Pembahasan Seagate tentang arsitektur cloud hyperscale menekankan pertimbangan trade-off antara kapasitas, biaya, skala, dan pertumbuhan data dalam arsitektur cloud. Selama data AI terus tumbuh dengan cepat, lapisan kapasitas tetap akan membutuhkan HDD, penyimpanan objek, dan sistem arsip.

Western Digital juga menekankan penyimpanan dengan TCO rendah untuk hyperscaler, CSP, dan OEM dalam komunikasi investornya mengenai inovasi penyimpanan era AI. Bagi penyedia cloud berskala besar, media penyimpanan bukan sekadar pembelian perangkat keras. Media tersebut memengaruhi kepadatan rak, pasokan jangka panjang, anggaran daya, pemulihan data, manajemen siklus hidup, dan pengaturan waktu pengeluaran modal. Selama HDD terus meningkatkan kapasitas drive dan mengendalikan biaya per satuan kapasitas, HDD akan tetap memegang peran di lapisan kapasitas AI.

Perusahaan Seharusnya Bekerja Mundur dari Siklus Hidup Data

Pemilihan penyimpanan dapat dipandu oleh lima pertanyaan:

  1. Seberapa sering data diakses?
  2. Apakah data tersebut secara langsung memengaruhi utilisasi GPU atau latensi inferensi?
  3. Apakah waktu pemulihan yang dibutuhkan dalam hitungan detik, menit, jam, atau hari?
  4. Berapa lama data harus disimpan, dan apakah melibatkan persyaratan audit atau kepatuhan?
  5. Apakah bisnis lebih peduli pada biaya per unit kinerja atau biaya per unit kapasitas?

Jika jawaban mengarah pada akses frekuensi tinggi, latensi rendah, dan efisiensi komputasi, maka SSD sebaiknya diprioritaskan. Jika jawaban mengarah pada penyimpanan jangka panjang, perluasan kapasitas, dan akses frekuensi rendah, maka HDD atau penyimpanan objek sebaiknya diprioritaskan. Jika pola akses berubah seiring waktu, maka arsitektur hibrid dan kebijakan siklus hidup otomatis sebaiknya diprioritaskan. Untuk sebagian besar pusat data AI, arsitektur hibrid bukanlah sebuah kompromi. Melainkan jawaban rekayasa yang lebih realistis.

Hasil Seleksi Skenario yang Cocok Skenario yang Kurang Cocok
SSD terlebih dahulu Pengisian GPU, cache inferensi, pencarian vektor, checkpoint aktif Arsip frekuensi rendah multi-tahun
HDD terlebih dahulu Data lake, cadangan, korpus historis, retensi kepatuhan Inferensi konkurensi tinggi, latensi rendah
Arsitektur hibrida terlebih dahulu Frekuensi akses yang berubah-ubah, keseimbangan antara biaya dan kinerja Tata kelola data buruk dan aturan tidak jelas
All-flash terlebih dahulu Kinerja ekstrem, latensi rendah, jalur panas pelatihan yang terkonsentrasi Kolam kapasitas yang didominasi data dingin

Jika Anda mengikuti peluang pasar modal yang terkait dengan infrastruktur AI, Anda dapat menempatkan SSD, HDD, HBM, server, jaringan, capex cloud, dan keterbatasan daya dalam satu peta rantai pasokan yang sama. Saat menggunakan perangkat lunak informasi saham AS untuk melacak perusahaan penyimpanan, semikonduktor, dan infrastruktur cloud, Anda juga harus mempertimbangkan laporan laba, panduan, siklus permintaan-penawaran, dan risiko valuasi, alih-alih membuat keputusan perdagangan hanya berdasarkan satu tren teknologi saja.

Ringkasan: Masa depan pusat data AI lebih mungkin berupa "lebih banyak SSD + HDD berkapasitas lebih besar + software tiering yang lebih kuat," alih-alih pergeseran total ke all-flash atau kembali ke sistem berbasis HDD semata. SSD akan terus berekpansi ke lapisan pelatihan (training), inferensi (inference), pengambilan vektor (vector retrieval), dan lapisan kinerja GPU-direct I/O. HDD akan terus mendukung data lake, arsip, pencadangan (backup), dan lapisan kapasitas dengan akses frekuensi rendah. Arsitektur harus ditentukan oleh siklus hidup data, frekuensi akses, waktu pemulihan, nilai bisnis, dan total biaya kepemilikan (total cost of ownership), bukan oleh pemasaran penyimpanan. Organisasi yang menempatkan data pada lapisan yang tepat akan lebih siap mengendalikan biaya infrastruktur AI dan membuka efisiensi komputasi.

Perubahan dalam arsitektur penyimpanan AI juga memengaruhi cara Anda mengevaluasi aset terkait. SSD kelas perusahaan dipengaruhi oleh NAND, kontroler, antarmuka, dan permintaan jalur panas AI. HDD nearline dipengaruhi oleh pengadaan kapasitas cloud, perjanjian pasokan jangka panjang, dan peta jalan kapasitas tinggi. Penyedia cloud, perusahaan semikonduktor, vendor server, dan perusahaan perangkat lunak penyimpanan bersama-sama membentuk rantai infrastruktur AI. Jika Anda mengikuti saham AS, saham Hong Kong, ETF, aset digital, dan pengelolaan modal lintas pasar, Biya dapat membantu Anda mencatat transaksi multi-aset, meninjau struktur biaya, dan mengelola informasi perdagangan. Ketersediaan layanan terkait bergantung pada lokasi Anda, verifikasi identitas, aturan platform, serta hukum dan peraturan yang berlaku.Informasi pasar publik, aturan perdagangan, dan penjelasan biaya bukan merupakan saran investasi. Untuk akses melalui perangkat seluler, Anda juga dapat mengunduh Aplikasi dan memeriksa pesanan, laporan, biaya, serta pemberitahuan risiko sebelum berdagang.

FAQ

Haruskah pusat data AI memprioritaskan SSD atau HDD?

Pusat data AI sebaiknya memilih SSD atau HDD berdasarkan suhu data. Data panas, pipeline pelatihan, cache inferensi, indeks vektor, dan checkpoint aktif lebih cocok menggunakan SSD. Korpus historis, cadangan, arsip, dan data jangka panjang dengan frekuensi rendah lebih cocok menggunakan HDD. Sebagian besar pusat data AI berskala besar menggunakan arsitektur hibrida SSD + HDD alih-alih hanya mengandalkan satu jenis media penyimpanan.

Apakah SSD akan sepenuhnya menggantikan HDD di pusat data AI?

SSD kemungkinan besar tidak akan sepenuhnya menggantikan HDD di pusat data AI dalam waktu dekat. SSD akan meluas ke pelatihan, inferensi, dan jalur data berkinerja tinggi, tetapi HDD masih mendukung kapasitas besar, akses frekuensi rendah, data lake, dan penyimpanan jangka panjang. Selama sistem AI masih perlu menyimpan kumpulan data historis dalam jumlah besar, HDD tetap memiliki nilai di lapisan kapasitas.

Haruskah data pelatihan AI disimpan di SSD atau HDD?

Data pelatihan AI sebaiknya dikelompokkan berdasarkan tingkat aktivitas. Sampel aktif, data yang telah diproses sebelumnya, checkpoint aktif, dan dataset yang sering dibaca lebih cocok disimpan di SSD. Korpus pelatihan historis, versi dataset lama, dan sampel dengan frekuensi rendah lebih cocok disimpan di HDD atau penyimpanan objek. Kuncinya adalah apakah data tersebut secara langsung memengaruhi utilisasi GPU dan waktu pemulihan pelatihan.

Mengapa beban kerja inferensi AI membutuhkan SSD berkecepatan tinggi?

Beban kerja inferensi AI membutuhkan SSD berkecepatan tinggi karena pemuatan model, caching, pengambilan vektor, basis pengetahuan RAG, dan log dengan konkurensi tinggi dapat sensitif terhadap latensi. SSD yang cepat dapat mengurangi hambatan pembacaan acak dan pemuatan data, meskipun efek akhirnya juga bergantung pada arsitektur model, strategi caching, jaringan, memori, dan penjadwalan sistem.

Metrik biaya apa yang harus digunakan perusahaan saat membandingkan SSD dan HDD?

Perusahaan tidak boleh membandingkan SSD dan HDD hanya berdasarkan harga pembelian. Mereka juga harus mengevaluasi biaya per TB, biaya per IOPS, penggunaan energi, pendinginan, kepadatan rak, pemulihan kegagalan, tenaga kerja operasional, migrasi data, dan manajemen siklus hidup. Data berkinerja tinggi harus dievaluasi berdasarkan biaya kinerja, sedangkan data dingin harus dievaluasi berdasarkan biaya kapasitas jangka panjang.

Bagaimana investor dapat memahami peluang rantai pasok SSD dan HDD?

Investor dapat mengevaluasi peluang rantai pasok SSD dan HDD dengan melihat permintaan pusat data AI, harga SSD enterprise, siklus penawaran-permintaan NAND, pengiriman HDD nearline, capex cloud, dan panduan perusahaan. Harga aset dapat dipengaruhi oleh siklus, valuasi, dan sentimen pasar, sehingga pertumbuhan permintaan teknis tidak menjamin keuntungan investasi. Keputusan perdagangan harus sesuai dengan toleransi risiko Anda.

*Artikel ini disediakan untuk tujuan informasi umum dan tidak merupakan nasihat hukum, pajak, atau nasihat profesional lainnya dari BiyaPay atau anak perusahaan serta afiliasinya, dan tidak dimaksudkan sebagai pengganti untuk mendapatkan nasihat dari penasihat keuangan atau profesional lainnya.

Kami tidak membuat pernyataan atau jaminan apa pun, baik tersurat maupun tersirat, mengenai keakuratan, kelengkapan, atau ketepatan waktu isi publikasi ini.

Blog terkait

Pilih Negara atau Wilayah untuk Membaca Blog Lokal