Mengapa Pertumbuhan Komputasi AI Mendorong Permintaan Penyimpanan? Dari Pelatihan dan Inferensi hingga Pengarsipan Data Dingin

Pertumbuhan komputasi AI dan permintaan penyimpanan pusat data

Pertumbuhan komputasi AI mendorong permintaan penyimpanan karena lebih banyak GPU tidak beroperasi secara terisolasi. Anda dapat menganggap sistem AI sebagai pipeline data yang terus berkembang: sebelum pelatihan, data harus dikumpulkan dan dibersihkan; selama pelatihan, sampel harus dibaca dengan kecepatan tinggi dan checkpoint harus disimpan; selama inferensi, model harus dimuat, pengetahuan harus diambil, dan cache serta log harus disimpan; dalam jangka panjang, model lama dan data historis harus diarsipkan. Oleh karena itu, permintaan penyimpanan tidak hanya soal kapasitas yang lebih besar. Ini juga melibatkan throughput, IOPS, latensi rendah, daya tahan, dan penjenjangan biaya.

Poin-Poin Penting

  • Komputasi AI yang lebih kuat biasanya berarti lebih banyak data mentah dan data yang dihasilkan untuk diproses.
  • Pelatihan sangat bergantung pada penyimpanan throughput tinggi, jika tidak, GPU mungkin menunggu data.
  • Inferensi dalam skala besar meningkatkan permintaan terhadap bobot model, vektor, cache, dan log.
  • Pengarsipan data dingin mengubah proyek AI jangka pendek menjadi permintaan kapasitas jangka panjang.
  • SSD dan HDD biasanya merupakan tingkatan penyimpanan yang saling melengkapi, bukan sekadar pengganti.

Bagaimana Pertumbuhan Komputasi AI Berubah Menjadi Permintaan Penyimpanan

Pertumbuhan komputasi AI dan infrastruktur penyimpanan perusahaan

Alasan utama pertumbuhan komputasi AI mendorong permintaan penyimpanan bukan sekadar bahwa “lebih banyak GPU membutuhkan lebih banyak drive.” Lebih banyak node komputasi perlu terus-menerus membaca data, menulis hasil antara, menyimpan status model, dan melayani pengguna dalam jangka panjang selama inferensi. Menurut penjelasan IBM tentang penyimpanan AI, penyimpanan AI mengelola data yang dibutuhkan untuk melatih dan menjalankan infrastruktur AI, termasuk data lake, penyimpanan cloud, dan basis data. Yang benar-benar harus Anda perhatikan adalah bagaimana data berpindah antara pelatihan, inferensi, dan pengarsipan.

Aplikasi tradisional sering kali digerakkan oleh permintaan pengguna, sehingga puncak akses datanya dapat diprediksi secara relatif. Beban kerja AI lebih menyerupai sebuah siklus. Data mentah dikumpulkan, dibersihkan, diberi label, dipisah, dikonversi ke format yang sesuai, lalu digunakan untuk pelatihan atau fine-tuning. Setelah pelatihan, bobot model, checkpoint, dan hasil evaluasi disimpan. Setelah deployment, masukan pengguna, keluaran yang dihasilkan, log alat, dan data umpan balik mengalir kembali ke sistem data, menyediakan materi untuk optimalisasi atau pelatihan ulang di masa depan.

Inilah alasan penyimpanan AI tidak dapat diukur hanya dari kapasitas. Kapasitas menentukan seberapa banyak data yang dapat Anda simpan, tetapi pelatihan dan inferensi juga membutuhkan throughput tinggi, latensi rendah, dan konkurensi tinggi. Pembahasan NVIDIA tentang penskalaan penyimpanan untuk pelatihan dan inferensi AI memandang pelatihan model, aplikasi inferensi, penyimpanan data, dan komputasi terakselerasi sebagai empat komponen umum dari solusi AI. Ini menunjukkan bahwa penyimpanan bukanlah hal yang dipikirkan belakangan di belakang GPU. Penyimpanan adalah bagian dari tumpukan infrastruktur AI.

Tahap Siklus Hidup AI Objek Penyimpanan Utama Pola Akses Kebutuhan Inti
Pengumpulan data Teks, gambar, video, log Penulisan berkelanjutan Kapasitas, skalabilitas
Prapemrosesan data Data yang dibersihkan, file fitur Baca dan tulis campuran IOPS, throughput
Pelatihan model Dataset, checkpoint Pembacaan paralel, penulisan berkala Bandwidth tinggi, latensi rendah
Inferensi model Bobot, vektor, cache Pembacaan acak yang sering Latensi rendah, konkurensi tinggi
Pengarsipan data Model lama, log historis Pembacaan frekuensi rendah Biaya rendah, daya tahan

Anda dapat memahami hubungan antara komputasi AI dan penyimpanan melalui tiga jalur transmisi:

  • Lebih banyak GPU meningkatkan tekanan pembacaan data pelatihan paralel.
  • Model yang lebih besar meningkatkan ukuran file bobot dan checkpoint.
  • Lebih banyak permintaan inferensi menciptakan pertumbuhan berkelanjutan dalam cache, indeks vektor, dan log.

Beban kerja AI juga membuat metrik penyimpanan menjadi lebih kompleks. Sebagai contoh, set pelatihan video dan gambar membutuhkan kapasitas lebih besar. Sistem rekomendasi dan pengambilan multimodal memberikan tekanan lebih besar pada akses file kecil dan acak. Pelatihan model besar lebih sensitif terhadap penulisan checkpoint dan kecepatan pemulihan. Aplikasi RAG menempatkan basis data vektor dan penyimpanan objek langsung ke dalam jalur inferensi. Organisasi NVMe juga mencatat bahwa beban kerja AI mencakup penyerapan data, prapemrosesan, pelatihan, checkpointing, dan pengarsipan. Nilai dari teknologi NVMe-oF terletak pada pengurangan hambatan data melalui throughput tinggi dan latensi rendah.

Ringkasan: Pertumbuhan komputasi AI berubah menjadi permintaan penyimpanan karena komputasi harus "diberi makan" oleh data. Lebih banyak GPU berarti lebih banyak pembacaan paralel, lebih banyak penulisan antara yang lebih sering, berkas model yang lebih besar, dan layanan inferensi yang lebih kompleks. Anda tidak boleh mengevaluasi penyimpanan AI hanya dari kapasitas terabyte. Throughput, IOPS, latensi, daya tahan penulisan, dan kemampuan penjenjangan data semuanya penting. Perubahan yang sesungguhnya adalah AI mendorong penyimpanan dari sumber daya latar belakang menjadi garis depan dari pipeline komputasi. Jika data tidak dapat mencapai GPU dengan cepat, komputasi tambahan mungkin tidak dimanfaatkan sepenuhnya. Jika model, log, dan arsip tidak direncanakan dengan baik, proyek AI jangka pendek dapat menjadi tekanan biaya jangka panjang.

Mengapa Pelatihan Terlebih Dahulu Mendorong Penyimpanan Berkinerja Tinggi

Pembacaan data dan penulisan checkpoint selama pelatihan AI

Pelatihan adalah tahap pertama yang mendorong kebutuhan penyimpanan berkinerja tinggi karena banyak GPU membaca sampel pelatihan secara bersamaan dan secara berkala menulis checkpoint model. Anda dapat membayangkan klaster GPU sebagai sekelompok mesin berkecepatan tinggi, sedangkan sistem penyimpanan adalah jalur pasokan bahan bakarnya. Jika pemuatan data tidak dapat mengikuti, akselerator yang mahal akan menunggu input, siklus pelatihan menjadi lebih lama, dan biaya komputasi per unit meningkat. Itulah mengapa kebutuhan pelatihan pertama-tama meningkatkan permintaan akan penyimpanan perusahaan dengan throughput tinggi, latensi rendah, dan akses konkurensi tinggi.

Data pelatihan tidak hanya dibaca sekali. Pelatihan model besar sering kali memerlukan beberapa kali melewati dataset, dan gambar, video, audio, serta data sensor membutuhkan ruang jauh lebih besar dibandingkan teks biasa. Augmentasi data, konversi format, pemisahan sampel, dan pembuatan indeks juga menghasilkan file perantara. Praktik pemuatan data machine learning AWS menekankan bahwa paralelisasi, prefetching, dan caching dapat mengurangi hambatan I/O dan membantu menjaga utilisasi GPU tetap tinggi. Ini menunjukkan bahwa kinerja pelatihan tidak hanya bergantung pada chip, tetapi juga pada apakah data dapat tiba tepat waktu.

Permintaan kunci lainnya berasal dari checkpoint. Pelatihan model besar memerlukan penyimpanan parameter model, status optimizer, dan kemajuan pelatihan secara berkala agar pekerjaan dapat dipulihkan setelah gangguan alih-alih memulai kembali dari awal. Penjelasan NVIDIA tentang checkpointing mencatat bahwa checkpointing sinkron menghentikan pelatihan hingga data ditulis ke penyimpanan, sehingga diperlukan throughput tulis yang tinggi untuk mengurangi jeda. Semakin besar model, semakin lama proses pelatihan, dan semakin mahal kluster GPU, semakin penting pula penulisan dan pemulihan checkpoint.

Proses Pelatihan Perilaku Baca/Tulis Utama Bottleneck Penyimpanan Kebutuhan Kemampuan
Pemuatan data Pembacaan paralel berskala besar GPU menunggu sampel Throughput tinggi
Prapemrosesan data File kecil, baca dan tulis acak IOPS tidak mencukupi IOPS tinggi, caching
Penyimpanan checkpoint Penulisan file besar secara berkala Pelatihan terhenti Bandwidth tulis tinggi
Pemulihan kegagalan Membaca status terbaru Pemulihan terlalu lama Latensi rendah
Eksperimen multi-versi Menyimpan beberapa versi model Akumulasi kapasitas Kapasitas yang skalabel

Saat mengevaluasi kebutuhan penyimpanan pelatihan, Anda dapat berfokus pada sinyal-sinyal berikut:

  • Apakah skala klaster GPU sedang berkembang.
  • Apakah parameter model dan checkpoint semakin besar.
  • Apakah data multimodal menjadi porsi yang lebih besar dari beban kerja.
  • Apakah pekerjaan pelatihan memerlukan fine-tuning dan eksekusi ulang yang sering.
  • Apakah pemuatan data memengaruhi utilisasi GPU.
  • Apakah replikasi lintas wilayah dan pemulihan bencana diperlukan.

Penyimpanan pelatihan bukanlah satu lapisan tunggal. Data pelatihan aktif dapat berada di SSD NVMe, sistem berkas paralel, atau lapisan cache berkecepatan tinggi. Data mentah dan data olahan dapat berada di penyimpanan objek. Checkpoint lama dan data historis pada akhirnya dipindahkan ke penyimpanan dingin. Arsitektur checkpoint AWS untuk pelatihan pembelajaran mesin skala besar juga mencatat bahwa operasi checkpoint untuk pelatihan LLM dapat menjadi beban kerja skala petabyte, yang memerlukan keseimbangan antara kinerja, skalabilitas, dan biaya.

Ringkasan: Pelatihan adalah tempat permintaan penyimpanan AI paling terlihat terkonsentrasi. Alasannya langsung: semakin banyak GPU, semakin intensif pembacaan data paralel; semakin besar model, semakin berat penulisan checkpoint; semakin lama sesi pelatihan, semakin berharga pemulihan dan toleransi kesalahan. Anda tidak boleh hanya melihat ukuran awal dataset pelatihan. Salinan data, file praproses, indeks, cache, checkpoint, dan beberapa versi model semuanya harus disertakan. SSD berkinerja tinggi, sistem file paralel, jaringan berkecepatan tinggi, dan penyimpanan objek sering kali perlu bekerja sama. Jika sistem penyimpanan tidak mampu mengikuti, perusahaan mungkin membeli lebih banyak GPU tetapi tetap gagal mengubah daya komputasi menjadi efisiensi pelatihan yang efektif.

Mengapa Inferensi Berskala Menciptakan Pertumbuhan Penyimpanan yang Berkelanjutan

Penyajian inferensi AI dan akses penyimpanan server

Inferensi bukanlah tahap dengan kebutuhan penyimpanan rendah setelah pelatihan selesai. Sebaliknya, begitu aplikasi AI memasuki fase produksi, kebutuhan penyimpanan meluas dari data pelatihan satu kali menjadi bobot model yang berjalan terus-menerus, basis data vektor, cache konteks, log pengguna, dan konten yang dihasilkan. Anda dapat menganggap pelatihan sebagai "memproduksi model", sementara inferensi adalah "mengoperasikan model dalam jangka panjang". Selama jumlah pengguna, volume permintaan, panjang konteks, dan keluaran multimodal terus meningkat, kebutuhan penyimpanan di sisi inferensi cenderung terus bertambah.

Penggerak pertama adalah manajemen bobot model dan versi. Setelah sebuah model diluncurkan, sebuah perusahaan biasanya tidak hanya menyimpan satu file. Perusahaan mungkin memelihara model dasar, model hasil fine-tuning, versi canary, versi rollback, dan replika deployment di berbagai wilayah. Ketika layanan inferensi berkembang, instance baru perlu memuat bobot model dengan cepat. Ketika layanan mengalami kegagalan, tim juga perlu melakukan rollback dengan cepat ke versi yang stabil. Hal ini meningkatkan permintaan akan repositori model, penyimpanan panas (hot storage), dan manajemen versi.

Penggerak kedua adalah RAG. Google Cloud menjelaskan RAG sebagai sebuah kerangka kerja yang menggabungkan sistem temu kembali informasi tradisional dengan model bahasa besar, memungkinkan model menggunakan basis pengetahuan eksternal dan basis data. Bagi perusahaan, ini berarti dokumen sumber, potongan teks, embedding vektor, indeks vektor, indeks kata kunci, informasi izin, dan metadata sumber dapat semuanya hadir pada saat yang bersamaan. Arsitektur referensi RAG dari Google Cloud juga menunjukkan bahwa RAG tingkat produksi dapat menggabungkan pencarian vektor, basis data, GKE, Cloud SQL, graf pengetahuan, dan arsitektur lainnya.

Objek Data Inferensi Alasan Pertumbuhannya Dampak pada Penyimpanan
Bobot model Berbagai versi dan penerapan multi-region Kapasitas dan kecepatan pemuatan
Embedding vektor Dokumen perusahaan terus diperbarui Kapasitas basis data vektor
Indeks vektor Skala pencarian meluas IOPS, latensi rendah
KV Cache Konteks panjang dan konkurensi tinggi Kapasitas cache
Log pengguna Permintaan dan umpan balik meningkat Kapasitas jangka panjang
Konten yang dihasilkan Keluaran gambar, audio, dan video Penyimpanan berkas besar

Konteks panjang dan agen AI juga mengubah tekanan penyimpanan. Inferensi konteks panjang memerlukan manajemen status sesi dan cache yang lebih banyak. Tugas agen juga dapat menyimpan catatan panggilan alat, hasil pengambilan web, hasil eksekusi kode, dan jejak penalaran menengah. Generasi multimodal semakin menambah gambar, audio, video, dan versi yang telah diedit. Dibandingkan dengan tanya jawab teks satu kali, objek data ini lebih besar, lebih terfragmentasi, dan lebih mungkin memerlukan pengambilan serta pelacakan.

Kebutuhan penyimpanan pada tahap inferensi dapat diamati melalui empat jalur:

  • Semakin banyak pengguna meningkatkan log inferensi dan catatan percakapan.
  • Konteks yang lebih panjang membuat manajemen cache dan status semakin berat.
  • Aplikasi RAG memperluas basis data vektor dan salinan berkas sumber.
  • Generasi multimodal menciptakan lebih banyak berkas gambar, audio, dan video.

Inilah alasan mengapa infrastruktur AI juga bergeser dari "pusat pelatihan" menuju kombinasi "pelatihan + inferensi + layanan data." Inferensi memiliki kebutuhan penyimpanan terdistribusi yang lebih banyak: pemuatan model membutuhkan bandwidth, pencarian vektor membutuhkan latensi rendah dan IOPS tinggi, penyimpanan log membutuhkan kapasitas serta kendali biaya, dan audit kepatuhan memerlukan kebijakan retensi data. Mungkin tidak melonjak setajam seperti pelatihan dalam jangka pendek, tetapi lebih mungkin menciptakan permintaan kapasitas jangka panjang yang stabil dan terus bertambah.

Ringkasan: Inferensi berskala besar mengubah penyimpanan AI dari permintaan berbasis proyek menjadi permintaan operasional. Setelah pelatihan selesai, bobot model, replika versi, dokumen RAG, indeks vektor, KV Cache, log pengguna, dan konten yang dihasilkan semuanya terus bertambah. Saat mengevaluasi kebutuhan penyimpanan inferensi, Anda tidak boleh hanya melihat ukuran model. Anda juga perlu mempertimbangkan pengguna aktif harian, frekuensi permintaan, panjang konteks, apakah RAG digunakan, apakah gambar atau video dihasilkan, dan apakah catatan audit harus disimpan. Pelatihan mendorong penyimpanan ber-throughput tinggi, sedangkan inferensi mendorong manajemen data berlatensi rendah, konkurensi tinggi, dan jangka panjang. Keduanya bersama-sama membentuk arsitektur penyimpanan pusat data AI.

Mengapa Pengarsipan Data Dingin Menjadi Bagian dari Infrastruktur AI

Data AI yang saat ini tidak digunakan tidak serta-merta berarti dapat dihapus. Set pelatihan historis, model lama, log inferensi, checkpoint lama, dan data mentah dapat digunakan kembali untuk pelatihan ulang, perbandingan performa, audit model, pemulihan bencana, atau penyimpanan untuk kepatuhan (compliance retention). Nilai dari pengarsipan data dingin adalah memindahkan data yang jarang diakses tetapi masih bernilai dari penyimpanan online yang mahal ke lapisan kapasitas dengan biaya lebih rendah, membantu infrastruktur AI menyeimbangkan performa dan biaya.

Data dingin AI biasanya mencakup:

  • Data pelatihan mentah dan snapshot historis.
  • Dataset yang telah dibersihkan yang saat ini tidak sedang digunakan.
  • Versi model lama dan checkpoint.
  • Versi vektor dan indeks historis.
  • Log inferensi jangka panjang dan catatan keselamatan.
  • Aset model dari proyek yang telah dihentikan.
  • Catatan pemrosesan data yang digunakan untuk audit dan ketertelusuran.

Perusahaan tidak dapat begitu saja menghapus data lama karena empat alasan. Pertama, model baru mungkin menggunakan kembali data historis. Kedua, ketika output model menjadi tidak normal, tim mungkin perlu menelusuri sumber pelatihan. Ketiga, data lama mungkin perlu diproses ulang ketika metode pembersihan data berubah. Keempat, kontrak bisnis, aturan industri, dan peraturan setempat mungkin mewajibkan catatan tertentu untuk disimpan. Namun, penyimpanan tidak berarti menyimpan segalanya selamanya. Ketika informasi pribadi, data sensitif, data lintas negara, atau industri yang teregulasi terlibat, data harus ditangani sesuai dengan cakupan otorisasi, pembatasan tujuan, dan masa penyimpanan.

Tingkatan Data Data AI Umum Frekuensi Akses Tujuan Utama
Data panas Set pelatihan saat ini, model aktif, cache Tinggi Kinerja dan latensi rendah
Data hangat Checkpoint terbaru, data historis yang sering digunakan Sedang Keseimbangan antara kinerja dan biaya
Data dingin Dataset lama, model lama, log jangka panjang Rendah Kapasitas berbiaya rendah
Arsip dalam Catatan hukum, cadangan jangka panjang Sangat rendah Daya tahan dan penyimpanan

Penyusunan tingkatan penyimpanan awan juga mencerminkan logika ini. Archive storage milik Google Cloud dirancang untuk data yang diakses kurang dari sekali setahun, biasanya dengan biaya akses dan operasi yang lebih tinggi serta persyaratan durasi penyimpanan minimum. Object Lifecycle Management milik Google Cloud juga dapat mengubah kelas penyimpanan secara otomatis atau menghapus objek berdasarkan usia objek, status versi, dan aturan lainnya. Bagi tim AI, jenis manajemen siklus hidup ini dapat secara bertahap memindahkan set pelatihan lama, checkpoint lama, dan log historis ke tingkatan akses frekuensi rendah.

Saat merancang strategi pengarsipan AI, Anda dapat berfokus pada enam pertanyaan:

  1. Apakah data ini dapat digunakan untuk pelatihan ulang di masa depan?
  2. Bisakah pemulihan menunggu beberapa menit, beberapa jam, atau beberapa hari?
  3. Apakah diperlukan beberapa salinan atau replika lintas wilayah?
  4. Apakah data ini melibatkan privasi, otorisasi, atau kedaulatan data?
  5. Apakah membaca data yang diarsipkan akan menimbulkan biaya pengambilan yang tinggi?
  6. Apakah data ini memiliki periode retensi dan persyaratan penghapusan yang jelas ditentukan?

Data dingin juga memengaruhi permintaan perangkat keras. SSD berkinerja tinggi cocok untuk data panas dan data hangat, tetapi pengarsipan jangka panjang dalam skala besar biasanya membutuhkan penyimpanan kapasitas yang lebih murah. Dalam perencanaan AI Factory perusahaan, NVIDIA mencatat bahwa penyimpanan berjenjang dapat menggunakan NVMe untuk data dan model pelatihan panas, sementara penyimpanan objek dapat mendukung arsip dingin dan data historis. Sebagian besar pertumbuhan penyimpanan AI yang Anda lihat tidak berasal dari satu sesi pelatihan tunggal, melainkan dari data yang terakumulasi selama bertahun-tahun.

Ringkasan: Pengarsipan data dingin memperluas permintaan penyimpanan AI dari ekspansi komputasi jangka pendek menjadi siklus kapasitas jangka panjang. Proses pelatihan yang telah selesai, model yang sudah dipensiunkan, atau dataset yang sementara tidak digunakan tidak berarti aset tersebut tidak memiliki nilai. Aset-aset ini dapat mendukung pelatihan ulang, audit, rollback, kepatuhan, dan pemulihan bencana. Pendekatan yang lebih rasional adalah membangun tingkatan hot, warm, dan cold: lapisan berkinerja tinggi melayani pelatihan dan inferensi saat ini, sementara lapisan berbiaya rendah menyimpan data yang frekuensinya rendah tetapi penting. Hal ini menghindari penyimpanan semua data pada SSD mahal dalam jangka waktu lama sekaligus mengurangi risiko data berharga tidak dapat dipulihkan saat dibutuhkan.

Teknologi Penyimpanan Mana yang Diuntungkan, dan Bagaimana Menilai Kekuatan Permintaan

Ekspansi komputasi AI tidak hanya menguntungkan satu jenis perangkat penyimpanan. SSD enterprise berkinerja tinggi terutama menyelesaikan masalah kecepatan dalam pelatihan, checkpointing, pemuatan model, dan pencarian vektor. SSD berkapasitas besar dapat menangani data hangat dan lapisan flash yang berorientasi kapasitas. HDD nearline dan penyimpanan objek mendukung data lake skala besar, data historis, dan arsip dingin. Saat menilai peluang penyimpanan AI, Anda harus melihat siklus hidup data, bukan mengonversi jumlah GPU secara langsung menjadi permintaan SSD atau HDD.

Berbagai teknologi penyimpanan umumnya memainkan peran-peran berikut:

Kategori Penyimpanan Kasus Penggunaan AI Utama Logika Manfaat Keterbatasan Utama
SSD berperforma tinggi Data pelatihan, checkpoint, pengambilan inferensi Latensi rendah, throughput tinggi Biaya lebih tinggi
SSD berkapasitas besar Data hangat, repositori model, lapisan cache Kepadatan kapasitas, efisiensi energi Biaya per satuan kapasitas
HDD nearline Data lake, data dingin, data historis Kapasitas besar berbiaya rendah Performa acak lebih lemah
Penyimpanan objek Dataset, aset model, pengarsipan Mudah diskalakan dan dibagikan Biaya dan latensi pengambilan
Sistem berkas paralel Akses bersama klaster GPU Konkurensi tinggi, bandwidth tinggi Penerapan yang kompleks
Memori dan cache Data panas, status konteks Latensi sangat rendah Batasan biaya dan kapasitas

Dari perspektif rantai nilai, permintaan penyimpanan AI dapat mengalir ke SSD perusahaan, NAND, HDD, pengontrol, server penyimpanan, perangkat jaringan, dan layanan penyimpanan awan. Peta jalan HDD 100TB+ dari Western Digital menyoroti inovasi HDD untuk data berskala AI, termasuk kapasitas yang lebih tinggi dan konsumsi daya yang lebih rendah. Survei yang disponsori oleh Seagate juga menunjukkan bahwa, didorong oleh pembuatan data AI, banyak perusahaan yang disurvei memperkirakan permintaan penyimpanan awan akan meningkat secara signifikan pada tahun 2028, dengan hasil yang dipublikasikan dalam Pembuatan data yang didorong AI survei.

Tetapi Anda tidak boleh hanya mengandalkan narasi industri. Kekuatan permintaan penyimpanan AI harus dievaluasi setidaknya pada tiga tingkat:

  • Lapisan permintaan: Apakah GPU benar-benar mulai beroperasi dan apakah beban kerja pelatihan dan inferensi terus bertumbuh.
  • Lapisan produk: Apakah aliran data baru mengalir ke SSD, HDD, penyimpanan objek, atau layanan cloud.
  • Lapisan siklus: Apakah harga, persediaan, perluasan kapasitas, dan valuasi telah memasukkan ekspektasi tersebut ke dalam harga.

Perlu juga dicatat bahwa peningkatan teknis dapat mengurangi kebutuhan penyimpanan per unit komputasi. Misalnya, deduplikasi dan kompresi dapat mengurangi penggunaan kapasitas. Kuantisasi model dapat mengecilkan berkas deployment. Penggunaan ulang cache dapat mengurangi pembacaan berulang. Tata kelola data yang lebih baik dapat mengurangi data yang tidak valid. Jika penyedia cloud meningkatkan pemanfaatan sumber daya yang ada, pembelian baru juga dapat tertunda.

Jika Anda mengikuti perusahaan rantai nilai penyimpanan AI atau ETF terkait, Anda dapat menggunakan informasi saham AS untuk melacak nama-nama penyimpanan, semikonduktor, dan infrastruktur cloud. Jika Anda lebih mempertimbangkan biaya perdagangan, Anda juga perlu menyertakan komisi, biaya platform, biaya agen eksternal, dan biaya aktivitas perdagangan dalam perhitungan imbal hasil aktual Anda. Biya tidak mengenakan komisi untuk perdagangan saham AS, sedangkan biaya platform, biaya agen eksternal, dan biaya lainnya tunduk pada biaya perdagangan saham AS Biya dan tampilan di halaman pesanan. Ketersediaan layanan bergantung pada lokasi pengguna, hasil verifikasi identitas, aturan platform, serta hukum dan peraturan yang berlaku.

Ringkasan: Logika investasi penyimpanan AI bukanlah garis lurus di mana "semakin banyak GPU berarti semakin banyak SSD." Pelatihan membutuhkan SSD berkinerja tinggi dan sistem file paralel. Inferensi membutuhkan pengambilan data berlatensi rendah, cache, dan sistem log. Pengarsipan dingin membutuhkan penyimpanan kapasitas berbiaya rendah. HDD, SSD, penyimpanan objek, dan lapisan cache lebih mungkin bekerja sama daripada sepenuhnya saling menggantikan. Saat mengevaluasi peluang industri, Anda perlu memperhatikan beban kerja AI yang nyata, pertumbuhan data, daya tahan pesanan pelanggan, siklus persediaan, harga jual rata-rata, pengeluaran modal, dan tingkat valuasi secara bersamaan. Pertumbuhan permintaan industri jangka panjang tidak berarti semua saham terkait akan naik secara serempak.

Hubungan antara kebutuhan komputasi AI dan penyimpanan pada dasarnya berkaitan dengan peningkatan sistem data seiring dengan peningkatan daya komputasi. Jika Anda hanya mengamati GPU, HBM, atau pengemasan lanjutan, Anda mungkin melewatkan variabel jangka panjang seperti pemuatan data, checkpointing, basis data vektor, pengarsipan dingin, dan biaya penyimpanan cloud. Bagi investor, pendekatan yang lebih disiplin adalah menganalisis penyimpanan AI dalam keseluruhan rantai nilai: hulu meliputi NAND, HDD, controller, dan server; tengah meliputi sistem penyimpanan dan infrastruktur cloud; serta hilir meliputi pelatihan, inferensi, dan penggunaan AI nyata di perusahaan. Anda dapat menggunakan Biya untuk mengikuti informasi pasar di ASsaham, saham Hong Kong, dan aset digital, sambil menggabungkan laporan laba rugi perusahaan, belanja modal, struktur pelanggan, perubahan persediaan, dan rincian biaya untuk penilaian independen. Informasi pasar publik, aturan perdagangan, dan struktur biaya hanya untuk pemahaman pasar dan tidak merupakan saran investasi.

FAQ

Apakah pembelian penyimpanan AI akan berlipat ganda jika data pelatihan AI berlipat ganda?

Belum tentu. Pertumbuhan data pelatihan meningkatkan kebutuhan kapasitas penyimpanan dan throughput, tetapi pembelian aktual juga bergantung pada deduplikasi, kompresi, penggunaan ulang cache, format data, arsitektur model, dan utilisasi penyimpanan. Perusahaan dapat mengoptimalkan pipeline data sebelum menambah perangkat keras, sehingga pertumbuhan data tidak boleh diperlakukan sebagai proksi langsung satu-ke-satu untuk pembelian peralatan.

Mengapa penerapan RAG di perusahaan meningkatkan biaya basis data vektor?

RAG meningkatkan biaya basis data vektor karena perusahaan biasanya perlu menyimpan dokumen sumber, potongan teks, embedding vektor, indeks, metadata izin, dan versi historis. Semakin banyak dokumen, semakin sering pembaruannya, dan semakin tinggi konkurensi kueri, semakin jelas biaya penyimpanan, pemeliharaan indeks, dan sumber daya pengambilan menjadi. Biaya spesifik bergantung pada aturan harga layanan cloud atau basis data.

Permintaan cache seperti apa yang diciptakan oleh inferensi AI konteks panjang?

Inferensi AI konteks panjang biasanya meningkatkan permintaan untuk KV Cache, status sesi, hasil retrieval, dan manajemen konteks perantara. Peningkatan aktualnya bergantung pada jumlah pengguna bersamaan, panjang konteks, lama waktu retensi cache, dan strategi tiering. Sebagian cache disimpan di memori GPU atau memori sistem, sementara sebagian lainnya mungkin dipindahkan ke SSD atau penyimpanan terdistribusi.

Apakah pusat data AI akan sepenuhnya mengganti HDD dengan SSD?

Dalam jangka pendek, penggantian penuh tidaklah mungkin terjadi. SSD lebih cocok untuk pelatihan, inferensi, pengambilan data, dan akses data panas, sedangkan HDD lebih cocok untuk data berskala besar dengan frekuensi rendah, data historis, dan arsip dingin. Pusat data AI lebih umum menggunakan arsitektur berjenjang, memilih media penyimpanan berdasarkan frekuensi akses, persyaratan latensi, skala kapasitas, dan total biaya.

Berapa lama perusahaan harus menyimpan data pelatihan AI?

Tidak ada masa retensi universal untuk data pelatihan AI. Perusahaan harus menentukan masa retensi berdasarkan nilai pelatihan ulang, persyaratan audit, otorisasi pengguna, sensitivitas data, kewajiban kontraktual, dan persyaratan regulasi setempat. Ketika informasi pribadi atau data yang diatur regulasi terlibat, penghapusan, anonimisasi, kontrol akses, dan jejak audit juga diperlukan.

Bagaimana investor dapat menilai apakah permintaan penyimpanan AI berkelanjutan?

Investor dapat menilai keberlanjutan melalui daya tahan pesanan, belanja modal penyedia cloud, pengiriman SSD enterprise dan HDD nearline, harga jual rata-rata, tingkat inventaris, konsentrasi pelanggan, serta penggunaan nyata aplikasi AI. Kenaikan harga dalam satu kuartal atau kelangkaan jangka pendek mungkin hanya menunjukkan ketegangan sementara. Permintaan jangka panjang bergantung pada apakah beban kerja pelatihan dan inferensi terus berkembang.

*Artikel ini disediakan untuk tujuan informasi umum dan tidak merupakan nasihat hukum, pajak, atau nasihat profesional lainnya dari BiyaPay atau anak perusahaan serta afiliasinya, dan tidak dimaksudkan sebagai pengganti untuk mendapatkan nasihat dari penasihat keuangan atau profesional lainnya.

Kami tidak membuat pernyataan atau jaminan apa pun, baik tersurat maupun tersirat, mengenai keakuratan, kelengkapan, atau ketepatan waktu isi publikasi ini.

Blog terkait

Pilih Negara atau Wilayah untuk Membaca Blog Lokal