Mengapa Pertumbuhan Pengkomputeran AI Mendorong Permintaan Storan? Perbezaan Antara Latihan, Inferens, dan Penyimpanan Data

Pertumbuhan pengkomputeran AI bukan sahaja bermaksud lebih banyak GPU, pemecut AI, dan pelayan. Ia juga mengembangkan permintaan storan pada masa yang sama. Latihan memerlukan pembacaan berterusan set data yang besar, penulisan titik semak, dan pengekalan versi model. Inferens memerlukan pemuatan berat model, penyelenggaraan KV cache, akses kepada pangkalan data vektor, dan penyimpanan konteks pengguna. Pengekalan data melibatkan set data mentah, data yang dibersihkan, log, kandungan yang dijana, rekod audit, dan sandaran. Apabila menilai pelaburan infrastruktur AI, anda tidak sepatutnya hanya melihat penghantaran GPU. Anda juga perlu menilai sama ada HBM, DRAM, SSD perusahaan, HDD nearline, storan objek, dan platform data mampu menyokong beban kerja sebenar.

Rumusan Utama

• Pertumbuhan pengiraan AI memperluaskan permintaan storan merentas latihan, inferens, dan penyimpanan data.
• Latihan menekankan bacaan berdasilapan tinggi, penulisan titik semak, dan utilisasi GPU.
• Inferens menekankan pemberat model, cache KV, akses latensi rendah, dan konkurensi tinggi.
• Penyimpanan data memfokuskan pada kapasiti, kos, storan berperingkat, pengekalan log, dan tadbir urus.
• HBM, DRAM, SSD, dan HDD mendapat manfaat melalui mekanisme yang berbeza dan tidak boleh digolongkan bersama.
• Untuk menilai permintaan storan AI, fokus pada beban kerja dan bukannya keterlaluan konsep.

Mengapakah Pertumbuhan Pengiraan AI Mendorong Bukan Sahaja GPU, Tetapi Juga Storan?

Pertumbuhan pengiraan AI mendorong permintaan storan kerana sistem AI bukan hanya tentang pengiraan. Ia juga perlu menggerakkan, menyimpan sementara, menulis, dan mengekalkan data secara berterusan. Semakin banyak GPU, semakin banyak saluran data perlu mengelakkan daripada memperlahankan latihan. Semakin besar model, semakin banyak pemberat, konteks, dan keadaan perantaraan yang perlu dikendalikan. Semakin meluas penggunaan aplikasi AI, semakin banyak log inferens, interaksi pengguna, dan kandungan yang dijana perlu disimpan. Justeru, infrastruktur AI bukan sekadar "pengembangan GPU," tetapi pengembangan penyelarasan pengiraan, ingatan, rangkaian, dan storan.

Satu sistem AI yang lengkap biasanya merangkumi pengumpulan data, pembersihan data, latihan, penalaan halus, penilaian, pelaksanaan, inferens, pembalakan, dan penyimpanan data. Semasa latihan, data mesti dipindahkan secara berterusan dari tasik data, storan objek, SSD, atau sistem fail selari ke dalam GPU. Semasa inferens, berat model mesti dibaca dengan pantas, konteks mesti diproses, dan sistem pengambilan mesti diakses. Selepas aplikasi perniagaan beroperasi, permintaan pengguna, output model, data maklum balas, dan rekod audit juga mesti disimpan. Apabila membincangkan penskalaan storan untuk latihan dan inferens AI, NVIDIA menekankan bahawa kapasiti, prestasi, perkakasan rangkaian, dan protokol pemindahan data harus dirancang bersama-sama, dan bukannya ditambah hanya selepas GPU dilaksanakan.

Hubungan antara kuasa pengiraan, memori, dan storan boleh difahami dalam tiga lapisan:

GPU pantas, tetapi itu tidak bermakna keseluruhan sistem itu pantas. Jika data latihan tidak dapat sampai ke GPU tepat pada masanya, GPU akan menunggu. Jika penulisan checkpoint terlalu perlahan, latihan terganggu. Jika konteks inferens tidak dapat kekal pada lapisan storan yang betul, masa menunggu pengguna meningkat. Semakin besar kluster AI, semakin mudah sesuatu bottleneck pada satu komponen diperbesarkan. Dahulu, banyak syarikat menganggap storan sebagai pusat kos. Namun dalam beban kerja AI, storan telah menjadi infrastruktur yang mempengaruhi penggunaan GPU, throughpunt inferens, tadbir urus data, dan kos jangka panjang.

Pertumbuhan pengiraan AI mendorong permintaan storan kerana beban kerja AI mewujudkan keperluan ketat untuk kedua-dua "data memasuki sistem pengiraan" dan "hasil pengiraan disimpan untuk jangka masa panjang." Latihan memerlukan bacaan berdaya Tinggi dan penulisan berterusan. Inferens memerlukan akses berlatensi rendah dan pengurusan konteks. Penyimpanan data memerlukan kapasiti, kawalan kos, dan keupayaan tadbir urus. Menambah bilangan GPU sambil mengabaikan storan boleh menyebabkan pengiraan yang mahal menunggu data, atau menjadikan kos inferens meningkat dengan pantas di bawah konkurensi tinggi. Untuk menilai sama ada infrastruktur AI sihat, anda perlu melihat bukan hanya pada bilangan GPU, tetapi juga sama ada HBM, DRAM, SSD, HDD, rangkaian, dan platform data dapat menyesuaikan diri dengan pertumbuhan pengiraan.

Mengapa Latihan AI Memerlukan Banyak Storan?

Latihan AI memerlukan jumlah storan yang besar kerana latihan model tidak membaca data hanya sekali. Ia membaca berulang kali, mencampur aduk, membatch, mempra-proses dan menulis hasil. Semakin besar set data, semakin banyak epok latihan, dan semakin kerap checkpoint dibuat, semakin pentinglah throughpu storan, bacaan dan penulisan serentak, serta lebar jalur rangkaian. Soalan teras dalam latihan bukanlah "bolehkah data disimpan," tetapi "bolehkah sistem storan menyampaikan data kepada GPU secara berterusan, boleh dipercayai dan pada throughpu yang tinggi."

Data latihan biasanya wujud dalam pelbagai bentuk: teks mentah, imej, video, kod, pertuturan, data sensor, dan dokumen perusahaan. Selepas pembersihan, ia mungkin menjadi data yang telah dibersihkan, data ter-token, data ciri, dan kelompok latihan. Semasa menerangkan cara latihan model AI berinteraksi dengan storan, Dell membahagikan proses kepada tiga peringkat utama: memuatkan data latihan, mempra-pemprosesan data, dan melatih model pada GPU. Setiap peringkat mengakses storan, tetapi corak aksesnya berbeza.

Satu lagi keperluan storan peringkat latihan yang sering dipandang remeh ialah checkpointing. Latihan model berskala besar mengambil masa yang lama dan mahal, jadi hasil tidak boleh disimpan hanya selepas latihan selesai. Sistem biasanya perlu menulis berat model, keadaan pengoptimum, dan titik pemulihan secara berkala untuk pemulihan kegagalan, perbandingan eksperimen, pengurusan versi model, dan latihan bersambung. Bahan storan AI SNIA menyatakan bahawa latihan menggunakan kelompok data untuk mengemas kini berat model dan secara berkala menulis data checkpoint untuk pemulihan. Semakin besar dan kerap checkpoint tersebut, semakin besar tekanan pada SSD, sistem fail selari, dan rangkaian.

Permintaan storan dalam latihan boleh dibahagikan kepada empat kategori:

Untuk mengurangkan kesesakan pergerakan data, latihan AI juga mendorong peningkatan seni bina storan. GPUDirect Storage NVIDIA boleh mencipta laluan data terus antara storan setempat atau jauh dan memori GPU, mengurangkan kesan pentaphan CPU terhadap pergerakan data. Ini mencerminkan trend yang lebih luas: apabila GPU menjadi lebih pantas, laluan data tradisional "storan—CPU—memori—GPU" boleh menjadi bottleneck, dan sistem latihan memerlukan data memasuki pemecut dengan lebih terus dan cekap.

Permintaan latihan AI terhadap storan meningkat bukan sahaja kerana set data latihan semakin besar, tetapi juga kerana proses latihan sentiasa membaca data, menulis titik semak, menyimpan berat model, dan menyimpan versi eksperimen. Semakin besar kelompok pengiraan, semakin tidak boleh diterima jika GPU diperlahankan oleh pemuatan data. Semakin lama sesi latihan berjalan, semakin penting pengurusan titik semak dan versi. SSD perusahaan, sistem fail selari, rangkaian berkelajuan tinggi, storan objek, dan tasik data semuanya menjadi sebahagian daripada saluran latihan. Soalan yang paling penting pada peringkat latihan bukanlah "adakah kapasiti mencukupi," tetapi "mampukah sistem storan mengurangkan masa menunggu GPU, mengurangkan gangguan latihan, dan menjadikan eksperimen boleh dihasilkan semula."

Mengapa Inferens AI Juga Mendorong Permintaan Storan dan Memori?

Inferens AI juga mendorong permintaan storan dan memori kerana inferens bukanlah tugas yang ringan. Setiap permintaan pengguna memerlukan pemuatan berat model, pemprosesan konteks input, penjanaan output dan penyelenggaraan keadaan perantaraan. Semakin ramai pengguna, semakin panjang konteks, semakin besar saiz model dan semakin tinggi konkurensi, semakin besar tekanan yang dihadapi oleh HBM, DRAM, SSD, pangkalan data vektor dan sistem caching. Latihan ialah fasa pembinaan model; inferens ialah beban kerja berterusan selepas aplikasi AI beroperasi pada skala besar.

IBM menerangkan inferens AI sebagai proses menggunakan model AI yang telah dilatih untuk mengendalikan data dan permintaan baharu. Ia mungkin kelihatan seperti proses mudah "masukkan soalan, terima jawapan," tetapi secara dalaman sistem melalui input arahan (prompt), pra-pengisian (prefill), penyahkodan, penjanaan token, dan output respons. Berat model (model weights) perlu dimuatkan, konteks input perlu diproses, dan token output perlu dijana langkah demi langkah. Apabila bilangan pengguna meningkat, inferens bertukar daripada masalah pengiraan tunggal kepada masalah perkhidmatan berterusan.

Salah satu pemboleh ubah storan yang paling penting dalam inferens ialah cache KV. Cache KV menyimpan keadaan perantaraan kunci/nilai yang dijana apabila model Transformer memproses konteks. Ia mengurangkan pengiraan berulang, tetapi ia juga menggunakan sejumlah besar memori. Dalam perbincangan mengenai inferens LLM berskala besar, NVIDIA menyatakan bahawa memuatkan Llama 3 70B dan Llama 4 Scout 109B dalam FP16 memerlukan kira-kira 140GB dan 218GB memori, manakala seorang pengguna tunggal dengan konteks 128k token boleh menggunakan sekitar 40GB cache KV untuk Llama 3 70B. Keperluan memori ini meningkat secara linear dengan bilangan pengguna.

KV cache mengubah inferens daripada "masalah pengiraan" kepada "masalah penjenisan memori dan storan." Pada idealnya, cache paling kerap digunakan kekal dalam HBM. Apabila HBM tidak mencukupi, sebahagian cache boleh diletakkan dalam DRAM CPU, memori CXL, SSD NVMe, atau storan jauh. NVIDIA Dynamo menyatakan bahawa KV Cache offloading boleh menyokong konteks yang lebih panjang, mengurangkan penggunaan memori GPU, meningkatkan konkurensi, dan mengurangkan pengiraan berulang. Teknologi sebegini menunjukkan bahwa bottleneck di sisi inferens bukan sahaja pengiraan GPU, tetapi juga kapasiti cache, latensi akses, dan struktur kos.

Inferens dipertingkatkan lagi oleh RAG dan ejen AI. RAG memerlukan akses kepada dokumen perusahaan, pangkalan data vektor, indeks carian, dan pangkalan pengetahuan luaran. Ejen AI turut merakam rancangan, hasil panggilan alat, keadaan tugas, dan konteks sejarah. Semakin hampir perkhidmatan inferens kepada aliran kerja perniagaan sebenar, semakin teragih data yang diaksesnya, dan semakin banyak sistem storan perlu menyokong kependaman rendah, konkurensi tinggi, kawalan kebenaran, dan kemas kini berterusan pada masa yang sama.

Inferens tidak bermakna permintaan storan menurun selepas latihan selesai. Sebaliknya, apabila aplikasi AI memasuki perkhidmatan pengguna berskala besar, berat model, cache KV, konteks panjang, dialog berbilang giliran, pengambilan RAG, dan keadaan ejen sentiasa menggunakan sumber HBM, DRAM, SSD, dan platform data. Latihan lebih cenderung kepada pemprosesan tinggi dan penulisan berskala besar, manakala inferens lebih cenderung kepada latensi rendah, konkurensi tinggi, dan pengurusan konteks. Apabila aplikasi AI semakin meluas digunakan, permintaan storan di bahagian inferens berkemungkinan akan terus berkembang, terutamanya apabila konteks panjang, pangkalan pengetahuan perusahaan, dan aliran kerja berbilang ejen semakin biasa.

Mengapa Pengekalan Data ialah Pemacu Ketiga Utama Permintaan Storan AI?

Pengekalan data merupakan salah satu bahagian permintaan storan AI yang paling kurang dihargai kerana sistem AI bukan sahaja menggunakan data lama; ia sentiasa mencipta data baharu. Latihan menjana titik semak, versi model, dan hasil penilaian. Inferens menjana permintaan pengguna, output model, data maklum balas, dan log. Pelaksanaan perusahaan juga memerlukan pengauditan, sandaran, pengurusan kebenaran, dan pengekalan pematuhan. Semakin banyak kuasa pengiraan dan semakin kerap AI dijalankan, semakin besar jumlah data yang perlu disimpan dalam jangka masa panjang.

Kitaran hayat data AI biasanya merangkumi data mentah, data bersih, data latihan, berat model, titik semak, log inferens, kandungan yang dijana, rekod audit, dan sandaran. Pengekalan data latihan terutamanya menyokong latihan model, kebolehulangan, pengurusan versi, dan latihan semula. Pengekalan data inferens terutamanya menyokong pengoptimuman pengalaman pengguna, penilaian kualiti, audit keselamatan, dan analisis perniagaan. Kedua-dua jenis data ini perlu disimpan, tetapi kekerapan akses, ketumpatan nilai, dan keperluan pematuannya berbeza.

Apabila menerangkan storan AI, IBM menekankan bahawa storan AI mesti mengimbangi data berskala besar, prestasi tinggi, kependaman rendah, dan akses yang terkawal. Ini penting kerana data AI tidak sepatutnya semuanya diletakkan pada SSD berkelajuan tinggi, mahupun semuanya diletakkan pada HDD berkos rendah. Data yang berbeza harus diagihkan secara berperingkat berdasarkan kekerapan akses, keperluan kependaman, kos, dan keperluan tadbir urus.

Perusahaan menyimpan data AI bukan hanya untuk melatih lebih banyak model pada masa hadapan, tetapi juga untuk menghasilkan semula keputusan, mendiagnosis masalah, melindungi data, dan memenuhi keperluan tadbir urus. Kandungan Dell mengenai ketahanan siber beban kerja AI menyatakan bahawa set data latihan dan inferens mungkin diedarkan merentasi berbilang sistem storan dan berkembang secara dinamik sepanjang kitaran hayat AI, menjadikan perlindungan set data AI penting untuk integriti dan ketersediaan. Bagi perusahaan, kehilangan versi model, sumber sampel latihan, atau log inferens boleh menjejaskan diagnosis isu, audit pematuhan, dan kesinambungan perniagaan.

Pengekalan data juga membawa kekangan kos. Data panas memerlukan latensi rendah dan prestasi tinggi, tetapi tidak semua data patut menduduki kapasiti SSD yang mahal dalam jangka masa panjang. Log sejarah, sandaran, korpus video, dan kandungan berfrekuensi rendah lebih sesuai untuk lapisan kapasiti yang lebih murah. Western Digital menyatakan dalam suku kewangan ketiganya bagi tahun 2026 bahawa hampir segala-galanya daripada latihan dan inferens sehingga AI agentic dan AI fizikal menjana data yang mesti disimpan secara berterusan dan menjimatkan kos, menjadikan HDD sebagai asas kapasiti yang penting dalam rantaian pengekalan data AI.

Pengekalan data ialah pendorong utama ketiga bagi permintaan storan AI, dan ia adalah bahagian yang paling mudah dilindungi oleh "narasi GPU." Latihan dan inferens menghasilkan data secara berterusan. Perusahaan juga perlu menyimpan versi model, checkpoint, log, kandungan yang dijana, rekod audit, dan sandaran. Data yang berbeza mempunyai nilai, kekerapan akses, dan kekangan kos yang berbeza, jadi storan AI sedang bergerak ke arah seni bina berperingkat: SSD berprestasi tinggi mengendalikan data panas, storan objek dan SSD perusahaan menyokong data suam, manakala HDD nearline dan sistem arkib menyediakan pengekalan jangka panjang berkapasiti besar. Keselamatan dan tadbir urus menentukan sama ada data ini boleh digunakan semula dengan boleh dipercayai.

Perkakasan Storan dan Segmen Industri Manakah yang Mendapat Manfaat daripada Pertumbuhan Pengiraan AI?

Pertumbuhan pengiraan AI tidak mendorong hanya satu jenis perkakasan storan. Ia mendorong keseluruhan hierarki storan. HBM dan DRAM menyelesaikan masalah lebar jalur dan kependaman yang paling hampir dengan GPU. SSD perusahaan menyokong Throughput latihan, Checkpoint, RAG dan Cache inferens. HDD dan storan objek menyediakan pengekalan jangka panjang berkapasiti besar dan berkos rendah. Perkakasan storan yang berbeza mendapat manfaat daripada bahagian beban kerja AI yang berbeza, dan syarikat serta saham berkaitan tidak patut dianggap sebagai jenis permintaan AI yang sama.

HBM dan DRAM ialah lapisan storan bernilai tertinggi yang paling hampir dengan GPU. Latihan model besar memerlukan memori berjalur lebar tinggi untuk menyokong pengiraan matriks yang besar, dan perkhidmatan inferens juga memerlukan akses yang cekap kepada berat model, pengaktifan, dan cache. Micron berkata portfolio memori dan storan AInya merangkumi HBM, SSD, LPDDR, pusat data, dan senario AI pinggir, menunjukkan bahawa permintaan storan berasaskan AI tidak terhad kepada satu produk sahaja. Pada COMPUTEX 2026, Micron juga berkata bahawa HBM4 36GB 12H boleh meningkatkan keluaran inferens LLM di bawah keadaan tertentu, menunjukkan hubungan langsung antara memori jalur lebar tinggi dan kecekapan penjanaan token.

SSD perusahaan berada di antara GPU, saluran data, dan perkhidmatan inferens. Latihan memerlukan bacaan data yang pantas dan penulisan titik semak. Inferens memerlukan akses kepada pangkalan data vektor, data RAG, fail model, dan penggredan cache KV. Kejuruteraan data mesti memproses set data yang sentiasa berkembang. SSD NVMe, SSD PCIe Gen5/Gen6, SSD perusahaan QLC, NVMe-oF, dan GPUDirect Storage semuanya sedang berkembang mengikut matlamat untuk menjadi lebih pantas, lebih stabil, dan lebih hampir kepada GPU. Penerangan Micron tentang pusat data AI juga merangkumi kedua-dua latihan AI dan inferens sebagai bidang aplikasi untuk penyelesaian memori dan storan.

HDD dan storan objek lebih merupakan asas kapasiti. Data latihan AI, koleksi video, log inferens, sandaran, dan versi sejarah tidak selalu memerlukan akses pada peringkat milisaat, tetapi ia tetap perlu disimpan dalam jangka masa panjang dengan cara yang berkos rendah dan boleh diurus. Seagate melaporkan pendapatan sebanyak $3.11 bilion bagi suku ketiga fiskal 2026 dan mendedahkan margin kasar bukan GAAP sebanyak 47.0%, mencerminkan sokongan daripada permintaan HDD nearline dan pusat data.

Pertumbuhan pengiraan AI mendorong keseluruhan hierarki storan, bukan sekadar sekeping perkakasan tunggal. HBM dan DRAM menyelesaikan masalah lebar jalur paling hampir dengan GPU. SSD perusahaan menyokong throughput latihan, checkpoint, RAG dan cache inferens. Storan objek dan HDD menyelesaikan pengekalan data berskala besar. Apabila menganalisis rantaian bekalan storan AI, anda perlu memetakan "latihan, inferens dan pengekalan" kepada "memori, SSD, HDD dan platform data." Syarikat, produk dan saham yang berbeza mendapat manfaat daripada bahagian rantaian yang berbeza, jadi tidak semua permintaan storan harus dianggap sebagai tema AI yang sama.

Bagaimana Anda Boleh Mengetahui Sama Ada Permintaan Storan AI Adalah Pertumbuhan Sebenar atau Kemeriahan Inventori Jangka Pendek?

Untuk menilai sama ada permintaan storan AI merupakan pertumbuhan sebenar, anda tidak sepatutnya hanya melihat sama ada tema AI sedang hangat atau sama ada penghantaran GPU tinggi. Anda perlu melihat sama ada beban kerja latihan, inferens, dan penyimpanan data sedang berkembang bersama-sama. Jika saiz set data latihan, volum token inferens, bilangan pengguna serentak, panjang konteks, panggilan RAG, penyimpanan log, dan perbelanjaan modal awan semuanya meningkat, permintaan storan lebih berkemungkinan merupakan permintaan sebenar. Jika pertumbuhan hanya berpunca daripada pengisian semula saluran atau pengambilalihan bekas jangka pendek, kemeruapan harga mungkin berbalik dengan lebih cepat.

Pertama, lihat beban kerja. Di sisi latihan, perhatikan saiz set data, penggunaan GPU, kekerapan checkpoint, dan kelajuan pembaean data. Di sisi inferens, perhatikan token setiap saat, TTFT, cache KV, saiz batch, dan konkurensi. Di sisi pengekalan, perhatikan pertumbuhan data, tempoh pengekalan log, strategi sandaran, dan keperluan tadbir urus. Nota pengoptimuman inferens konteks panjang NVIDIA menyatakan bahawa apabila cache KV berkembang, kadar hit cache, latens, dan penggunaan HBM semuanya terjejas, menunjukkan bahawa beban kerja inferens sebenar secara langsung mengubah permintaan memori dan storan.

Kedua, lihat sama ada perolehan dan penetapan harga mengesahkan satu sama lain. Permintaan sebenar biasanya muncul dalam pesanan SSD perusahaan, penghantaran HDD nearline, penetapan harga HBM dan DRAM, simpanan pesanan pembekal, kontrak jangka panjang, dan perbelanjaan modal awan. Jika terdapat hanya kenaikan harga bagi satu suku tahun tetapi inventori juga meningkat dengan pesat, ia mungkin pengisian semula stok. Jika pertumbuhan beban kerja, perolehan jangka panjang, dan peningkatan produk semuanya muncul bersama-sama, kredibiliti permintaan sebenar adalah lebih tinggi.

Ketiga, lihat kekangan kos. Permintaan storan AI tidaklah tidak terhad. Perusahaan mesti memilih antara prestasi, kos, penggunaan kuasa, pematuhan, dan kebolehurusan. Pemampatan KV cache, storan berperingkat, pemisahan data panas/sejuk, kuantisasi model, penyahpenduaan data, dan pengekalan terpilih semuanya merupakan cara untuk mengawal kos. Perbincangan NVIDIA Research mengenai pemampatan KV cache juga menunjukkan bahawa kaedah pemampatan dapat mengurangkan tekanan memori dalam inferens konteks panjang, tetapi pelaksanaan sebenar masih menghadapi cabaran infrastruktur pengeluaran.

Jika anda mengikut saham atau ETF yang berkaitan dengan penyimpanan AI, kos perdagangan juga perlu dimasukkan dalam penilaian pulangan sebenar. Kos perdagangan saham A.S. mungkin bukan sahaja termasuk komisen, malah juga yuran platform, yuran agensi luar, yuran aktiviti transaksi, perbezaan pelaksanaan pesanan, dan kos berkaitan penyelesaian. Sebagai contoh, yuran perdagangan saham A.S., Biya mengenakan komisen $0 untuk perdagangan saham A.S., manakala yuran platform, yuran agensi luar, dan caj lain adalah tertakluk kepada pusat yuran dan halaman pesanan. Ketersediaan perkhidmatan berkaitan bergantung pada lokasi pengguna, hasil pengesahan identiti, peraturan platform, serta undang-undang dan peraturan yang berkuat kuasa.Sebelum berdagang, pelabur masih perlu menyemak halaman pesanan, penyata akaun, dan keperluan pengawalseliaan tempatan.

Untuk menilai permintaan storan AI, anda perlu melihat sama ada beban kerja, perolehan, penetapan harga, inventori, dan kos mengesahkan antara satu sama lain. Pertumbuhan sebenar akan terus kelihatan dalam data latihan, token inferens, konteks panjang, panggilan RAG, pengekalan log, SSD perusahaan, HDD nearline, dan perbelanjaan modal pusat data. Kemeruapan inventori jangka pendek mungkin muncul sebagai harga yang naik lebih dahulu, pengisian semula saluran, pemulihan inventori, dan kemudian kelambatan pesanan. Arah jangka panjang permintaan storan AI adalah penting, tetapi pertimbangan industri dan pelaburan lebih bergantung pada masa: permintaan mana yang telah memasuki pengeluaran, permintaan mana yang masih dalam projek perintis, dan permintaan mana yang telahpun dicerminkan dalam harga dan penilaian.

Jika anda sentiasa mengikuti infrastruktur AI, cip storan, SSD perusahaan, HDD, ETF separuh konduktor, dan saham berkaitan di AS dan Hong Kong, anda boleh menggunakan Biya untuk menjejak sebut harga pelbagai aset, rekod perdagangan, dan aktiviti akaun. Menilai permintaan pengiraan dan storan AI bukanlah satu kesimpulan sekali sahaja. Latihan, inferens, penyimpanan data, perbelanjaan modal awan, dan pesanan perusahaan semuanya sentiasa berubah. Anda juga boleh menggabungkan maklumat saham AS dengan pemantauan anda sendiri terhadap syarikat berkaitan dan perubahan industri, sambil mengesahkan ketersediaan perkhidmatan berdasarkan lokasi anda, hasil pengesahan identiti, peraturan platform, serta undang-undang dan peraturan yang berkuat kuasa.Maklumat pasaran awam dan struktur yuran adalah untuk rujukan sahaja dan tidak constitute nasihat pelaburan. Sebelum berdagang, pelabur harus memahami sepenuhnya jenis pesanan, struktur yuran, risiko kemeruapan, dan toleransi risiko mereka sendiri.

Soalan Lazim

Mengapa Pertumbuhan Pengiraan AI Meningkatkan Permintaan Storan?

Pertumbuhan pengiraan AI meningkatkan permintaan storan kerana latihan, inferens, dan pengekalan data semuanya bergantung pada pembacaan, penyimpanan sementara, penulisan, dan pengekalan data dari semasa ke semasa. Selepas kapasiti GPU meningkat, jika data tidak dapat memasuki sistem pengiraan dengan tepat pada masanya, kadar penggunaan GPU akan menurun. Oleh itu, storan merupakan sebahagian daripada infrastruktur AI.

Apakah Perbezaan antara Permintaan Storan Latihan AI dan Inferens AI?

Latihan AI menekankan bacaan berdurchput tinggi, penembatan cek (checkpoint), dan saluran data teragih. Inferens AI menekankan pemuatan berat model, cache KV, akses latency rendah, dan pengurusan konteks serentak yang tinggi. Kedua-duanya memerlukan storan, tetapi metrik botol leher mereka berbeza.

Mengapa KV Cache Mempengaruhi Permintaan Penyimpanan Inferens AI?

KV cache menyimpan keadaan perantaraan yang dijana apabila model memproses konteks. Konteks yang panjang, perbualan berbilang giliran, dan pengguna berkonkurensi tinggi semuanya menyebabkan KV cache berkembang. Jika HBM tidak mencukupi, sistem mungkin menggunakan DRAM, memori CXL, atau SSD sebagai lapisan cache berperingkat.

Mengapa Pengekalan Data AI Tidak Boleh Bergantung Hanya Pada SSD Berkelajuan Tinggi?

Pengekalan data AI tidak boleh bergantung hanya pada SSD berkelajuan tinggi kerana tidak semua data memerlukan akses latenasi rendah. Data latihan panas dan inferens dalam talian memerlukan penyimpanan berkelajuan tinggi, manakala korpus sejarah, log, sandaran, dan arkib lebih sesuai dengan penyimpanan berkapasiti tinggi yang lebih murah seperti penyimpanan objek dan HDD nearline.

Bagaimana Pelabur Biasa Boleh Menilai Sama Ada Permintaan Penyimpanan AI Adalah Benar?

Pelabur biasa dapat memerhatikan saiz set data latihan, volum token inferens, pesanan SSD perusahaan, permintaan HDD nearline, harga memori, inventori, dan perbelanjaan modal awan. Jika pelbagai penunjuk meningkat bersama, kredibiliti permintaan sebenar adalah lebih tinggi.

Adakah Pertumbuhan Permintaan Stor AI Bermakna Saham Berkaitan Pasti Akan Naik?

Pertumbuhan permintaan stor AI tidak bermakna saham berkaitan pasti akan naik. Harga saham turut dipengaruhi oleh penilaian, inventori, kitaran penetapan harga, persaingan, kepekatan pelanggan, dan jangkaan pasaran. Sebelum berdagang, pelabur patut mempertimbangkan pendapatan, pesanan, struktur yuran, dan toleransi risiko mereka sendiri.