
Pertumbuhan komputasi AI tidak hanya berarti lebih banyak GPU, akselerator AI, dan server. Hal ini juga memperluas permintaan penyimpanan pada saat yang bersamaan. Pelatihan memerlukan pembacaan berkelanjutan dari dataset masif, penulisan checkpoint, dan penyimpanan versi model. Inferensi memerlukan pemuatan bobot model, pemeliharaan KV cache, akses ke basis data vektor, dan penyimpanan konteks pengguna. Retensi data melibatkan dataset mentah, data yang telah dibersihkan, log, konten yang dihasilkan, catatan audit, dan cadangan. Saat mengevaluasi investasi infrastruktur AI, Anda tidak boleh hanya melihat pengiriman GPU. Anda juga perlu menilai apakah HBM, DRAM, SSD enterprise, HDD nearline, penyimpanan objek, dan platform data mampu mendukung beban kerja yang sesungguhnya.

Pertumbuhan komputasi AI mendorong permintaan penyimpanan karena sistem AI bukan hanya tentang komputasi. Sistem AI juga perlu terus memindahkan, menyimpan sementara, menulis, dan mempertahankan data. Semakin banyak GPU yang ada, semakin besar pula kebutuhan alur data untuk tidak memperlambat proses pelatihan. Semakin besar modelnya, semakin banyak bobot, konteks, dan status perantara yang perlu ditangani. Semakin luas adopsi aplikasi AI, semakin banyak log inferensi, interaksi pengguna, dan konten yang dihasilkan yang harus disimpan. Karena itu, infrastruktur AI bukan sekadar "perluasan GPU," melainkan perluasan yang terkoordinasi dari komputasi, memori, jaringan, dan penyimpanan.
Sebuah sistem AI yang lengkap biasanya mencakup pengumpulan data, pembersihan data, pelatihan, fine-tuning, evaluasi, deployment, inferensi, logging, dan penyimpanan data. Selama pelatihan, data harus terus-menerus dipindahkan dari data lake, object storage, SSD, atau sistem berkas paralel ke dalam GPU. Selama inferensi, bobot model harus dibaca dengan cepat, konteks harus diproses, dan sistem retrieval harus diakses. Setelah aplikasi bisnis mulai berjalan, permintaan pengguna, keluaran model, data umpan balik, dan catatan audit juga harus disimpan. Ketika membahas penskalaan penyimpanan untuk pelatihan dan inferensi AI, NVIDIA menekankan bahwa kapasitas, kinerja, perangkat keras jaringan, dan protokol transfer data harus direncanakan bersamaan, alih-alih hanya ditambahkan setelah GPU dipasang.
Hubungan antara komputasi, memori, dan penyimpanan dapat dipahami dalam tiga lapisan:
| Lapisan | Komponen Tipikal | Fungsi Utama | Kemacetan Umum |
|---|---|---|---|
| Komputasi | GPU, TPU, akselerator AI, ASIC | Menjalankan komputasi matriks dan inferensi model | Kapasitas komputasi tidak cukup, konsumsi daya tinggi |
| Memori | HBM, GDDR, DDR5, LPDDR, memori CXL | Menyimpan bobot model, status perantara, dan cache | Kapasitas atau bandwidth tidak cukup |
| Penyimpanan | NVMe SSD, SSD enterprise, penyimpanan objek, HDD nearline | Menyimpan data pelatihan, checkpoint, log, dan arsip | Throughput tidak cukup, latensi tinggi, biaya tinggi |
GPU itu cepat, tetapi itu tidak berarti seluruh sistemnya cepat. Jika data pelatihan tidak dapat mencapai GPU tepat waktu, GPU akan menunggu. Jika penulisan checkpoint terlalu lambat, pelatihan terhenti. Jika konteks inferensi tidak dapat tetap berada di tingkat penyimpanan yang tepat, waktu tunggu pengguna meningkat. Semakin besar klaster AI, semakin mudah hambatan pada satu komponen diperbesar. Di masa lalu, banyak perusahaan menganggap penyimpanan sebagai pusat biaya. Namun, pada beban kerja AI, penyimpanan telah menjadi infrastruktur yang memengaruhi pemanfaatan GPU, throughput inferensi, tata kelola data, dan biaya jangka panjang.
Pertumbuhan komputasi AI mendorong permintaan penyimpanan karena beban kerja AI menciptakan persyaratan ketat baik untuk "data yang masuk ke sistem komputasi" maupun "hasil komputasi yang dipertahankan dari waktu ke waktu." Pelatihan memerlukan pembacaan berthroughput tinggi dan penulisan berkelanjutan. Inferensi memerlukan akses berlatensi rendah dan manajemen konteks. Retensi data memerlukan kapasitas, pengendalian biaya, dan kemampuan tata kelola. Memperluas GPU sambil mengabaikan penyimpanan dapat membuat komputasi mahal menunggu data, atau membuat biaya inferensi naik dengan cepat di bawah konkurensi tinggi. Untuk mengevaluasi apakah infrastruktur AI sehat, Anda perlu melihat bukan hanya jumlah GPU, tetapi juga apakah HBM, DRAM, SSD, HDD, jaringan, dan platform data dapat mengimbangi pertumbuhan komputasi.

Pelatihan AI membutuhkan sejumlah besar ruang penyimpanan karena pelatihan model tidak hanya membaca data satu kali saja. Proses ini membaca, mengacak, mengelompokkan, memproses awal, dan menulis hasil secara berulang-ulang. Semakin besar dataset, semakin banyak epoch pelatihan, dan semakin sering checkpoint dilakukan, semakin penting pula throughput penyimpanan, pembacaan dan penulisan bersamaan, serta bandwidth jaringan. Pertanyaan inti dalam pelatihan bukanlah "apakah data dapat disimpan," melainkan "apakah sistem penyimpanan dapat mengirimkan data ke GPU secara berkelanjutan, andal, dan dengan throughput tinggi."
Data pelatihan biasanya ada dalam banyak bentuk: teks mentah, gambar, video, kode, suara, data sensor, dan dokumen perusahaan. Setelah dibersihkan, data tersebut dapat menjadi data yang telah dibersihkan, data yang telah ditokenisasi, data fitur, dan batch pelatihan. Saat menjelaskan bagaimana pelatihan model AI berinteraksi dengan penyimpanan, Dell membagi proses menjadi tiga tahap utama: memuat data pelatihan, melakukan pra-pemrosesan data, dan melatih model pada GPU. Setiap tahap mengakses penyimpanan, tetapi pola aksesnya berbeda.
Kebutuhan penyimpanan pada tahap pelatihan lain yang sering diremehkan adalah checkpointing. Pelatihan model besar membutuhkan waktu yang lama dan biayanya mahal, sehingga hasil tidak dapat disimpan hanya setelah pelatihan selesai. Sistem biasanya perlu menulis bobot model, status optimizer, dan titik pemulihan secara berkala untuk pemulihan kegagalan, perbandingan eksperimen, manajemen versi model, dan pelatihan berkelanjutan. Materi penyimpanan AI dari SNIA mencatat bahwa pelatihan menggunakan kumpulan data (batch) untuk memperbarui bobot model dan secara berkala menulis data checkpoint untuk pemulihan. Semakin besar dan semakin sering checkpoint dilakukan, semakin besar pula tekanan pada SSD, sistem file paralel, dan jaringan.
Permintaan penyimpanan dalam pelatihan dapat dibagi menjadi empat kategori:
| Tahap Pelatihan | Kebutuhan Penyimpanan | Metrik Utama | Media yang Umum Digunakan |
|---|---|---|---|
| Pembacaan data | Membaca berulang kali dataset pelatihan dan batch sampel | Throughput, pembacaan konkuren, kecepatan pemuatan data | NVMe SSD, object storage, sistem berkas paralel |
| Prapemrosesan data | Pembersihan, pemisahan, tokenisasi, augmentasi | Kinerja baca/tulis campuran, koordinasi CPU/GPU | SSD, lapisan cache, data lake |
| Penulisan checkpoint | Menyimpan bobot model dan titik pemulihan | Kecepatan tulis, keandalan, waktu pemulihan | SSD enterprise, sistem berkas paralel |
| Penyimpanan eksperimen | Menyimpan versi, parameter, log, dan hasil evaluasi | Kapasitas, ketertelusuran, biaya | Object storage, HDD, penyimpanan arsip |
Untuk mengurangi hambatan perpindahan data, pelatihan AI juga mendorong peningkatan arsitektur penyimpanan. GPUDirect Storage dari NVIDIA dapat membuat jalur data langsung antara penyimpanan lokal atau jarak jauh dan memori GPU, sehingga mengurangi dampak staging CPU terhadap perpindahan data. Hal ini mencerminkan tren yang lebih luas: seiring GPU menjadi semakin cepat, jalur data tradisional "penyimpanan—CPU—memori—GPU" dapat menjadi hambatan, dan sistem pelatihan membutuhkan data untuk masuk ke akselerator secara lebih langsung dan efisien.
Pelatihan AI mendorong permintaan penyimpanan bukan hanya karena dataset pelatihan semakin besar, tetapi juga karena proses pelatihan terus-menerus membaca data, menulis checkpoint, menyimpan bobot model, dan menyimpan versi eksperimen. Semakin besar kluster komputasi, semakin tidak dapat diterima jika GPU diperlambat oleh pemuatan data. Semakin lama proses pelatihan berjalan, semakin penting checkpointing dan manajemen versi. Enterprise SSD, sistem berkas paralel, jaringan berkecepatan tinggi, penyimpanan objek, dan data lake semuanya menjadi bagian dari pipeline pelatihan. Pertanyaan terpenting pada tahap pelatihan bukanlah "apakah kapasitasnya cukup," melainkan "apakah sistem penyimpanan dapat membuat GPU lebih sedikit menunggu, mengurangi gangguan pelatihan, dan membuat eksperimen dapat direproduksi."

Inferensi AI juga mendorong permintaan penyimpanan dan memori karena inferensi bukanlah tugas yang ringan. Setiap permintaan pengguna memerlukan pemuatan bobot model, pemrosesan konteks input, pembuatan output, dan pemeliharaan status antara. Semakin banyak pengguna, semakin panjang konteksnya, semakin besar modelnya, dan semakin tinggi konkurensinya, semakin besar tekanan yang muncul pada HBM, DRAM, SSD, basis data vektor, dan sistem caching. Pelatihan adalah fase pembangunan model; inferensi adalah beban kerja berkelanjutan setelah aplikasi AI beroperasi dalam skala besar.
IBM menjelaskan inferensi AI sebagai proses menggunakan model AI yang telah dilatih untuk menangani data dan permintaan baru. Proses ini mungkin terlihat sederhana, yaitu "memasukkan pertanyaan, menerima jawaban," tetapi secara internal sistem melewati tahapan input prompt, prefill, decode, pembuatan token, dan output respons. Bobot model harus dimuat, konteks input harus diproses, dan token output harus dihasilkan selangkah demi selangkah. Begitu jumlah pengguna meningkat, inferensi bergeser dari masalah komputasi tunggal menjadi masalah layanan berkelanjutan.
Salah satu variabel penyimpanan yang paling penting dalam inferensi adalah KV cache. KV cache menyimpan status perantara key/value yang dihasilkan ketika model Transformer memproses konteks. Ini mengurangi komputasi berulang, tetapi juga mengonsumsi sejumlah besar memori. Dalam diskusi tentang inferensi LLM skala besar, NVIDIA mencatat bahwa memuat Llama 3 70B dan Llama 4 Scout 109B dalam FP16 membutuhkan sekitar 140GB dan 218GB memori, sementara satu pengguna dengan konteks 128k token dapat mengonsumsi sekitar 40GB KV cache untuk Llama 3 70B. Kebutuhan memori ini tumbuh secara linier dengan jumlah pengguna.
KV cache mengubah inferensi dari "masalah komputasi" menjadi "masalah penjenjangan memori dan penyimpanan." Idealnya, cache yang paling sering diakses tetap berada di HBM. Ketika HBM tidak mencukupi, sebagian cache dapat ditempatkan di CPU DRAM, memori CXL, SSD NVMe, atau penyimpanan jarak jauh. NVIDIA Dynamo mencatat bahwa KV Cache offloading dapat mendukung konteks yang lebih panjang, mengurangi penggunaan memori GPU, meningkatkan konkurensi, dan mengurangi komputasi berulang. Teknologi semacam ini menunjukkan bahwa hambatan di sisi inferensi bukan hanya komputasi GPU, tetapi juga kapasitas cache, latensi akses, dan struktur biaya.
Inferensi semakin diperkuat oleh RAG dan agen AI. RAG membutuhkan akses ke dokumen perusahaan, basis data vektor, indeks pencarian, dan basis pengetahuan eksternal. Agen AI juga mencatat rencana, hasil pemanggilan alat, status tugas, dan konteks historis. Semakin dekat layanan inferensi dengan alur kerja bisnis nyata, semakin terdistribusi data yang diaksesnya, dan semakin sistem penyimpanan harus mendukung latensi rendah, konkurensi tinggi, kontrol izin, dan pembaruan berkelanjutan secara bersamaan.
| Kebutuhan Inferensi | Skenario Tipikal | Tekanan Utama | Lapisan Penyimpanan Terkait |
|---|---|---|---|
| Pemuatan bobot model | Deployment model besar dan penskalaan elastis | Kapasitas, kecepatan baca | HBM, DRAM, SSD |
| KV cache | Konteks panjang, dialog multi-giliran, konkurensi tinggi | Kapasitas HBM, tingkat hit cache | HBM, DRAM, CXL, NVMe SSD |
| RAG retrieval | Basis pengetahuan perusahaan, layanan pelanggan, augmentasi pencarian | Latensi rendah, pembaruan indeks | Basis data vektor, SSD, penyimpanan objek |
| Status Agent | Pemanggilan tool, perencanaan tugas, memori konteks | Manajemen status, persistensi | Basis data, penyimpanan objek, sistem logging |
| Log pengguna | Evaluasi kualitas, kontrol risiko, pelatihan ulang | Penulisan, retensi, tata kelola | Penyimpanan objek, HDD, penyimpanan arsip |
Inferensi tidak berarti permintaan penyimpanan menurun setelah pelatihan selesai. Sebaliknya, ketika aplikasi AI memasuki layanan pengguna skala besar, bobot model, KV cache, konteks panjang, dialog multi-giliran, pengambilan RAG, dan status agen terus menerus mengonsumsi sumber daya HBM, DRAM, SSD, dan platform data. Pelatihan cenderung mengarah pada throughput tinggi dan penulisan skala besar, sementara inferensi cenderung mengarah pada latensi rendah, konkurensi tinggi, dan manajemen konteks. Seiring aplikasi AI semakin banyak diadopsi, permintaan penyimpanan di sisi inferensi kemungkinan akan terus tumbuh, terutama karena konteks panjang, basis pengetahuan perusahaan, dan alur kerja multi-agen menjadi semakin umum.
Retensi data adalah salah satu bagian dari kebutuhan penyimpanan AI yang paling sering diremehkan, karena sistem AI tidak hanya mengonsumsi data lama; mereka terus-menerus menciptakan data baru. Pelatihan menghasilkan checkpoint, versi model, dan hasil evaluasi. Inferensi menghasilkan permintaan pengguna, keluaran model, data umpan balik, dan log. Penerapan di perusahaan juga memerlukan audit, pencadangan, manajemen izin, dan retensi kepatuhan. Semakin besar kapasitas komputasi dan semakin sering AI dijalankan, semakin besar pula jumlah data yang perlu disimpan dalam jangka panjang.
Siklus hidup data AI biasanya mencakup data mentah, data bersih, data pelatihan, bobot model, checkpoint, log inferensi, konten yang dihasilkan, catatan audit, dan cadangan. Retensi data pelatihan terutama mendukung pelatihan model, reproduktibilitas, manajemen versi, dan pelatihan ulang. Retensi data inferensi terutama mendukung optimalisasi pengalaman pengguna, evaluasi kualitas, audit keamanan, dan analisis bisnis. Kedua jenis data ini perlu disimpan, tetapi frekuensi akses, kepadatan nilai, dan persyaratan kepatuhannya berbeda.
Saat menjelaskan penyimpanan AI, IBM menekankan bahwa penyimpanan AI harus menyeimbangkan data berskala besar, kinerja tinggi, latensi rendah, dan akses yang terkendali. Hal ini penting karena data AI tidak semuanya harus ditempatkan pada SSD berkecepatan tinggi, dan juga tidak semuanya harus ditempatkan pada HDD berbiaya rendah. Data yang berbeda harus ditingkatkan berdasarkan frekuensi akses, persyaratan latensi, biaya, dan kebutuhan tata kelola.
| Jenis Data | Frekuensi Akses | Penggunaan Utama | Tingkat Penyimpanan yang Cocok |
|---|---|---|---|
| Data panas | Sangat tinggi | Batch pelatihan saat ini, konteks inferensi daring, indeks waktu nyata | HBM, DRAM, NVMe SSD |
| Data hangat | Sedang | Checkpoint terbaru, korpus yang sering digunakan, indeks vektor | SSD kelas perusahaan, penyimpanan objek |
| Data dingin | Rendah | Korpus historis, log arsip, cadangan, konten frekuensi rendah | HDD nearline, penyimpanan objek, arsip |
| Data tata kelola | Diakses sesuai kebutuhan | Audit, ketertelusuran, izin, catatan kepatuhan | Penyimpanan objek, snapshot permanen, sistem cadangan |
Perusahaan menyimpan data AI tidak hanya untuk melatih lebih banyak model di kemudian hari, tetapi juga untuk mereproduksi hasil, mendiagnosis masalah, melindungi data, dan memenuhi persyaratan tata kelola. Konten Dell tentang ketahanan siber beban kerja AI mencatat bahwa dataset pelatihan dan inferensi dapat terdistribusi di beberapa sistem penyimpanan dan terus berkembang secara dinamis sepanjang siklus hidup AI, sehingga perlindungan dataset AI menjadi penting untuk integritas dan ketersediaan. Bagi perusahaan, kehilangan versi model, sumber sampel pelatihan, atau log inferensi dapat memengaruhi diagnosis masalah, audit kepatuhan, dan kelangsungan bisnis.
Retensi data juga membawa kendala biaya. Data panas membutuhkan latensi rendah dan kinerja tinggi, tetapi tidak semua data layak menempati kapasitas SSD yang mahal dalam jangka panjang. Log historis, cadangan, korpus video, dan konten berfrekuensi rendah lebih cocok untuk tingkatan kapasitas yang lebih murah. Western Digital menyatakan dalam kuartal fiskal ketiganya tahun 2026 bahwa hampir segala hal mulai dari pelatihan dan inferensi hingga AI agenis dan AI fisik menghasilkan data yang harus dipertahankan secara persisten dan hemat biaya, menjadikan HDD sebagai fondasi kapasitas yang penting dalam rantai retensi data AI.
Retensi data adalah pendorong utama ketiga bagi permintaan penyimpanan AI, dan inilah bagian yang paling mudah tersembunyi oleh "narasi GPU." Pelatihan dan inferensi terus-menerus menghasilkan data. Perusahaan juga harus menyimpan versi model, checkpoint, log, konten yang dihasilkan, catatan audit, dan cadangan. Data yang berbeda memiliki nilai, frekuensi akses, dan batasan biaya yang berbeda-beda, sehingga penyimpanan AI bergerak menuju arsitektur berjenjang: SSD berkinerja tinggi menangani data panas (hot data), penyimpanan objek dan SSD perusahaan mendukung data hangat (warm data), serta HDD nearline dan sistem arsip menyediakan retensi jangka panjang berkapasitas besar. Keamanan dan tata kelola menentukan apakah data ini dapat digunakan kembali secara andal.
Pertumbuhan komputasi AI tidak hanya mendorong satu jenis perangkat keras penyimpanan. Ia mendorong seluruh hierarki penyimpanan. HBM dan DRAM menyelesaikan masalah bandwidth dan latensi yang paling dekat dengan GPU. SSD enterprise mendukung throughput pelatihan, checkpoint, RAG, dan caching inferensi. HDD dan penyimpanan objek menyediakan kapasitas besar, biaya rendah, dan retensi jangka panjang. Perangkat keras penyimpanan yang berbeda mendapat keuntungan dari bagian beban kerja AI yang berbeda, dan perusahaan serta saham terkait tidak boleh diperlakukan sebagai jenis permintaan AI yang sama.
HBM dan DRAM adalah lapisan penyimpanan bernilai tertinggi yang paling dekat dengan GPU. Pelatihan model berskala besar membutuhkan memori berband lebar tinggi untuk mendukung komputasi matriks berskala masif, dan layanan inferensi juga memerlukan akses yang efisien ke bobot model, aktivasi, dan cache. Micron menyatakan bahwa portofolio memori dan penyimpanan AI mereka mencakup HBM, SSD, LPDDR, pusat data, dan skenario AI di perangkat tepi, yang menunjukkan bahwa permintaan penyimpanan yang didorong oleh AI tidak terbatas pada satu produk saja. Di COMPUTEX 2026, Micron juga menyatakan bahwa HBM4 36GB 12H dapat meningkatkan throughput inferensi LLM dalam kondisi tertentu, yang menunjukkan hubungan langsung antara memori berkapasitas tinggi-bandwidth dan efisiensi generasi token.
SSD enterprise berada di antara GPU, pipeline data, dan layanan inferensi. Pelatihan memerlukan pembacaan data yang cepat dan penulisan checkpoint. Inferensi memerlukan akses ke basis data vektor, data RAG, file model, dan tiering KV cache. Rekayasa data harus memproses dataset yang terus bertambah. NVMe SSD, PCIe Gen5/Gen6 SSD, QLC enterprise SSD, NVMe-oF, dan GPUDirect Storage semuanya berkembang dengan tujuan yang lebih cepat, lebih stabil, dan lebih dekat ke GPU. Deskripsi Micron tentang pusat data AI juga mencakup pelatihan AI dan inferensi sebagai area aplikasi untuk solusi memori dan penyimpanan.
HDD dan penyimpanan objek lebih berperan sebagai fondasi kapasitas. Data pelatihan AI, korpus video, log inferensi, cadangan, dan versi historis tidak selalu memerlukan akses tingkat milidetik, tetapi memang perlu disimpan dalam jangka panjang dengan cara yang murah dan mudah dikelola. Seagate melaporkan pendapatan sebesar $3,11 miliar untuk kuartal fiskal ketiganya tahun 2026 dan mengungkapkan margin kotor non-GAAP sebesar 47,0%, yang mencerminkan dukungan dari permintaan HDD nearline dan pusat data.
| Segmen Penyimpanan | Fungsi Utama | Beban Kerja AI | Logika Manfaat |
|---|---|---|---|
| HBM | Bandwidth tinggi dan latensi rendah dekat dengan GPU | Pelatihan, inferensi, konteks panjang | Model yang lebih besar dan generasi token lebih banyak |
| DDR5/DRAM | Memori sisi CPU, cache, data sistem | Layanan inferensi, pemrosesan data | Konkurensi lebih tinggi dan manajemen konteks |
| Enterprise SSD | Throughput tinggi, latensi rendah, baca/tulis acak | Data pelatihan, checkpoint, RAG, KV offload | Tekanan lebih besar pada pipeline data dan cache |
| Object storage | Kapasitas elastis, data lake, tata kelola | Korpus mentah, data yang dibersihkan, log | Siklus hidup data AI lebih panjang |
| Nearline HDD | Kapasitas berbiaya rendah dan retensi jangka panjang | Pencadangan, arsip, data pelatihan historis | Retensi data AI jangka panjang lebih banyak |
Pertumbuhan komputasi AI mendorong seluruh hierarki penyimpanan, bukan hanya satu bagian perangkat keras saja. HBM dan DRAM menyelesaikan masalah bandwidth paling dekat dengan GPU. SSD enterprise mendukung throughput pelatihan, checkpoint, RAG, dan cache inferensi. Object storage dan HDD menyelesaikan penyimpanan data dalam skala besar. Saat menganalisis rantai pasok penyimpanan AI, Anda perlu memetakan "pelatihan, inferensi, dan retensi" ke "memori, SSD, HDD, dan platform data." Perusahaan, produk, dan saham yang berbeda memperoleh manfaat dari bagian rantai yang berbeda, sehingga tidak semua permintaan penyimpanan harus diperlakukan sebagai tema AI yang sama.
Untuk menilai apakah permintaan penyimpanan AI merupakan pertumbuhan yang nyata, Anda tidak boleh hanya melihat apakah tema AI sedang panas atau apakah pengiriman GPU tinggi. Anda perlu melihat apakah beban kerja pelatihan (training), inferensi (inference), dan penyimpanan data jangka panjang tumbuh bersamaan. Jika ukuran dataset pelatihan, volume token inferensi, jumlah pengguna bersamaan, panjang konteks, panggilan RAG, retensi log, dan belanja modal cloud semuanya meningkat, maka permintaan penyimpanan lebih mungkin bersifat nyata. Jika pertumbuhan hanya berasal dari pengisian ulang stok saluran atau perburuan pasokan jangka pendek, fluktuasi harga dapat berbalik lebih cepat.
Pertama, lihatlah beban kerja. Di sisi pelatihan, perhatikan ukuran dataset, utilisasi GPU, frekuensi checkpoint, dan throughput pembacaan data. Di sisi inferensi, perhatikan token per detik, TTFT, KV cache, ukuran batch, dan konkurensi. Di sisi retensi, perhatikan pertumbuhan data, periode retensi log, strategi pencadangan, dan kebutuhan tata kelola. Catatan optimasi inferensi konteks panjang dari NVIDIA menyatakan bahwa seiring pertumbuhan KV cache, tingkat hit cache, latensi, dan penggunaan HBM semuanya terpengaruh, yang menunjukkan bahwa beban kerja inferensi nyata secara langsung mengubah kebutuhan memori dan penyimpanan.
Kedua, perhatikan apakah pengadaan dan penetapan harga saling mengonfirmasi satu sama lain. Permintaan riil biasanya muncul dalam pesanan SSD perusahaan, pengiriman HDD nearline, penetapan harga HBM dan DRAM, backlog pemasok, kontrak jangka panjang, dan belanja modal cloud. Jika hanya ada kenaikan harga satu kuartal tetapi persediaan juga meningkat dengan cepat, itu mungkin merupakan restocking. Jika pertumbuhan beban kerja, pengadaan jangka panjang, dan peningkatan produk semuanya muncul bersamaan, kredibilitas permintaan riil lebih tinggi.
Ketiga, perhatikan kendala biaya. Permintaan penyimpanan AI tidaklah tak terbatas. Perusahaan harus memilih di antara kinerja, biaya, konsumsi daya, kepatuhan, dan kemudahan pengelolaan. Kompresi cache KV, penyimpanan berjenjang, pemisahan data panas/dingin, kuantisasi model, deduplikasi data, dan retensi selektif semuanya merupakan cara untuk mengendalikan biaya. Pembahasan NVIDIA Research tentang kompresi cache KV juga menunjukkan bahwa metode kompresi dapat meringankan tekanan memori dalam inferensi konteks panjang, tetapi penerapan nyata masih menghadapi tantangan infrastruktur produksi.
| Dimensi Penilaian | Sinyal Permintaan Riil | Sinyal Volatilitas Jangka Pendek |
|---|---|---|
| Pelatihan | Dataset yang lebih besar, utilisasi GPU lebih tinggi, lebih banyak checkpoint | Permintaan melemah setelah pembelian proyek sekali pakai |
| Inferensi | Lebih banyak token, konkurensi lebih tinggi, konteks lebih panjang | Trafik pengujian jangka pendek tanpa layanan jangka panjang |
| Penyimpanan data | Lebih banyak log, cadangan, audit, dan kebutuhan tata kelola | Akumulasi data sementara diikuti pembersihan cepat |
| Pengadaan | Kontrak jangka panjang, pesanan berkelanjutan, peningkatan produk | Pengisian ulang saluran, pesanan ganda |
| Harga | Pasokan produk kelas atas yang ketat dengan pesanan yang terlihat | Harga naik terlalu cepat sementara persediaan pulih |
| Biaya | Penyimpanan berjenjang dan teknologi optimasi berkembang bersamaan | Tekanan anggaran menunda pengadaan |
Jika Anda mengikuti saham atau ETF terkait penyimpanan AI, biaya perdagangan juga harus dimasukkan dalam penilaian imbal hasil aktual. Biaya perdagangan saham AS mungkin mencakup tidak hanya komisi, tetapi juga biaya platform, biaya agen eksternal, biaya aktivitas transaksi, perbedaan eksekusi order, dan biaya terkait penyelesaian. Mengambil biaya perdagangan saham AS sebagai contoh, Biya mengenakan komisi $0 untuk perdagangan saham AS, sedangkan biaya platform, biaya agen eksternal, dan biaya lainnya mengikuti pusat biaya dan halaman order. Ketersediaan layanan terkait bergantung pada lokasi pengguna, hasil verifikasi identitas, aturan platform, serta hukum dan peraturan yang berlaku.Sebelum berdagang, investor tetap harus memeriksa halaman pesanan, laporan rekening, dan persyaratan regulator setempat.
Untuk menilai permintaan penyimpanan AI, Anda perlu melihat apakah beban kerja, pengadaan, harga, persediaan, dan biaya saling mengonfirmasi satu sama lain. Pertumbuhan nyata akan terus terlihat dalam data pelatihan, token inferensi, konteks panjang, panggilan RAG, retensi log, SSD perusahaan, HDD nearline, dan belanja modal pusat data. Volatilitas persediaan jangka pendek mungkin muncul sebagai harga yang naik terlebih dahulu, pengisian ulang saluran, pemulihan persediaan, dan kemudian perlambatan pesanan. Arah jangka panjang permintaan penyimpanan AI memang penting, tetapi penilaian industri dan investasi lebih bergantung pada waktu: permintaan mana yang telah memasuki tahap produksi, permintaan mana yang masih dalam proyek percontohan, dan permintaan mana yang sudah tercermin dalam harga dan valuasi.
Jika Anda terus memantau infrastruktur AI, chip penyimpanan, SSD perusahaan, HDD, ETF semikonduktor, dan saham Amerika Serikat serta Hong Kong terkait, Anda dapat menggunakan Biya untuk melacak kutipan multi-aset, catatan transaksi, dan aktivitas akun. Menilai permintaan komputasi dan penyimpanan AI bukanlah kesimpulan sekali jadi. Pelatihan, inferensi, retensi data, belanja modal cloud, dan pesanan perusahaan semuanya terus berubah. Anda juga dapat menggabungkan informasi saham AS dengan pemantauan Anda sendiri terhadap perusahaan terkait dan perubahan industri, sekaligus memastikan ketersediaan layanan berdasarkan lokasi Anda, hasil verifikasi identitas, aturan platform, serta hukum dan peraturan yang berlaku.Informasi pasar publik dan struktur biaya hanya untuk referensi dan bukan merupakan saran investasi. Sebelum bertransaksi, investor harus memahami sepenuhnya jenis order, struktur biaya, risiko volatilitas, dan toleransi risiko mereka sendiri.
Pertumbuhan komputasi AI meningkatkan kebutuhan penyimpanan karena pelatihan, inferensi, dan retensi data semuanya bergantung pada pembacaan, penyimpanan sementara, penulisan, dan retensi data dari waktu ke waktu. Setelah kapasitas GPU meningkat, jika data tidak dapat masuk ke sistem komputasi tepat waktu, utilisasi GPU akan menurun. Oleh karena itu, penyimpanan merupakan bagian dari infrastruktur AI.
Pelatihan AI menekankan pada pembacaan throughput tinggi, penulisan checkpoint, dan pipeline data terdistribusi. Inferensi AI menekankan pada pemuatan bobot model, KV cache, akses latensi rendah, dan manajemen konteks konkurensi tinggi. Keduanya membutuhkan penyimpanan, tetapi metrik bottleneck-nya berbeda.
KV cache menyimpan status perantara yang dihasilkan saat model memproses konteks. Konteks panjang, percakapan multi-putaran, dan pengguna dengan konkurensi tinggi semuanya membuat KV cache bertambah. Jika HBM tidak mencukupi, sistem dapat menggunakan DRAM, memori CXL, atau SSD sebagai lapisan cache berjenjang.
Penyimpanan data AI tidak dapat hanya mengandalkan SSD berkecepatan tinggi karena tidak semua data memerlukan akses berlatensi rendah. Data pelatihan panas dan inferensi online membutuhkan penyimpanan berkecepatan tinggi, sementara korpus historis, log, cadangan, dan arsip lebih cocok disimpan pada penyimpanan berkapasitas besar dengan biaya lebih rendah seperti object storage dan HDD nearline.
Investor biasa dapat mengamati ukuran dataset pelatihan, volume token inferensi, pesanan SSD perusahaan, permintaan HDD nearline, harga memori, persediaan, dan belanja modal cloud. Jika beberapa indikator naik bersamaan, kredibilitas permintaan riil lebih tinggi.
Pertumbuhan permintaan penyimpanan AI tidak berarti saham terkait pasti akan naik. Harga saham juga dipengaruhi oleh valuasi, persediaan, siklus penetapan harga, persaingan, konsentrasi pelanggan, dan ekspektasi pasar. Sebelum bertransaksi, investor harus mempertimbangkan laba, pesanan, struktur biaya, dan toleransi risiko mereka sendiri.
*Artikel ini disediakan untuk tujuan informasi umum dan tidak merupakan nasihat hukum, pajak, atau nasihat profesional lainnya dari BiyaPay atau anak perusahaan serta afiliasinya, dan tidak dimaksudkan sebagai pengganti untuk mendapatkan nasihat dari penasihat keuangan atau profesional lainnya.
Kami tidak membuat pernyataan atau jaminan apa pun, baik tersurat maupun tersirat, mengenai keakuratan, kelengkapan, atau ketepatan waktu isi publikasi ini.

