สถาปัตยกรรมพื้นที่จัดเก็บข้อมูลของศูนย์ข้อมูล AI: HBM, DRAM, SSD และ HDD แต่ละตัวทำหน้าที่อะไร?

ศูนย์ข้อมูล AI ไม่ได้ทำงานด้วย GPU และ HBM เพียงอย่างเดียว แต่อาศัยสถาปัตยกรรมการจัดเก็บข้อมูลแบบหลายชั้นที่ประกอบด้วย HBM, DRAM, SSD และ HDD ยิ่งชั้นการจัดเก็บข้อมูลอยู่ใกล้ชิปประมวลผลมากเท่าไร ชั้นนั้นก็ยิ่งเน้นด้านแบนด์วิดท์ ความหน่วง และประสิทธิภาพด้านพลังงานมากขึ้นเท่านั้น และยิ่งอยู่ใกล้ชั้นทะเลสาบข้อมูล (Data Lake) และชั้นคลังเก็บถาวรมากเท่าไร ก็ยิ่งเน้นด้านความจุ ความน่าเชื่อถือ และต้นทุนต่อเทระไบต์มากขึ้นเท่านั้น เมื่อคุณเข้าใจว่าสื่อจัดเก็บข้อมูลทั้งสี่ประเภทนี้แบ่งหน้าที่กันอย่างไร คุณจะสามารถประเมินคอขวดของเซิร์ฟเวอร์ AI งบลงทุน CAPEX ด้านคลาวด์ ลำดับที่บริษัทหน่วยความจำจะได้รับประโยชน์ และเหตุผลที่ AI สามารถกระตุ้นความต้องการ HBM, NAND และ HDD ได้พร้อมกันได้ดีขึ้น

ประเด็นสำคัญ

• HBM รองรับการประมวลผลแบบแบนด์วิดท์สูงใกล้กับ GPU ไม่ใช่สำหรับการจัดเก็บข้อมูลระยะยาว
• DRAM รองรับหน่วยความจำระบบฝั่ง CPU การจัดตารางงาน การประมวลผลล่วงหน้า และ cache spillover
• SSD รองรับข้อมูลที่ถูกเรียกใช้บ่อย การโหลดโมเดล checkpoints และการเข้าถึงข้อมูลถาวรความเร็วสูง
• HDD ยังคงเป็นรากฐานด้านต้นทุนสำหรับข้อมูลเย็น การเก็บถาวร การสำรองข้อมูล และ data lakes ขนาดใหญ่
• AI inference สามารถเพิ่มความต้องการ HBM, DRAM, SSD และ HDD ได้พร้อมกัน
• ในการตัดสินว่ากลุ่มสตอเรจใดได้รับประโยชน์ก่อน จำเป็นต้องระบุว่าคอขวดเกิดขึ้นที่ใด

สถาปัตยกรรมสตอเรจของ AI Data Center คืออะไร: จาก GPU HBM ถึง HDD สำหรับข้อมูลเย็น

สถาปัตยกรรมการจัดเก็บข้อมูลของศูนย์ข้อมูล AI เป็นระบบแบบมีชั้นหลายระดับ HBM อยู่ใกล้ GPU และตัวเร่ง AI มากที่สุด โดยทำหน้าที่ส่งมอบข้อมูลด้วยแบนด์วิดท์สูง DRAM ฝั่ง CPU รองรับหน่วยความจำระบบและการจัดตารางงาน SSD ในเซิร์ฟเวอร์และโหนดจัดเก็บข้อมูลเก็บข้อมูลที่ถูกเข้าถึงบ่อยครั้ง ส่วนทะเลสาบข้อมูลขนาดใหญ่ การสำรองข้อมูล และคลังเก็บถาวร ต้องพึ่งพา HDD ทั้งสี่ชั้นนี้ไม่ได้ทดแทนกัน แต่ทำงานร่วมกันบนพื้นฐานของความเร็ว ความจุ ต้นทุน และความถี่ในการเข้าถึง

Micron AI data center อธิบายโครงสร้างพื้นฐาน AI ว่าเป็นลำดับชั้นของหน่วยความจำและการจัดเก็บข้อมูลที่สมบูรณ์ การนิยามเช่นนี้มีความสำคัญ: ปริมาณงาน AI ไม่ได้ใส่ข้อมูลทั้งหมดลงในสื่อที่เร็วที่สุด แต่ข้อมูลแต่ละประเภทจะถูกวางไว้ในตำแหน่งที่เหมาะสมที่สุด

ทำไมคุณจึงไม่ควรมุ่งเน้นไปที่ GPU และ HBM เพียงอย่างเดียว? การฝึก AI จำเป็นต้องอ่านชุดข้อมูลอย่างต่อเนื่อง ดังนั้น SSD และระบบจัดเก็บข้อมูลแบบเครือข่ายจึงส่งผลต่ออัตราการใช้งานของ GPU การอนุมาน AI จำเป็นต้องประมวลผลบริบทของผู้ใช้ บันทึก log และแคช ดังนั้น DRAM และ SSD จึงส่งผลต่อปริมาณงานที่ประมวลผลได้ ไฟล์โมเดล ข้อมูลการฝึก บันทึกการติดตาม ข้อมูลเวกเตอร์ และประวัติการโต้ตอบยังไม่สามารถอยู่ใน HBM ได้ในระยะยาวอีกด้วย ศูนย์ข้อมูลจริงได้รับการออกแบบมาเพื่อสร้างสมดุลระหว่างพลังการประมวลผล ความจุ และต้นทุนพลังงาน

มีความเข้าใจผิดที่พบบ่อยอยู่สี่ประการ ประการแรก การมี HBM มากขึ้นไม่ได้ทำให้ SSD ไร้ความสำคัญ ประการที่สอง SSD ที่ถูกลงไม่ได้ขจัด HDD ออกไปทันที ประการที่สาม DRAM ไม่ได้เป็นเพียงหน่วยความจำแบบดั้งเดิมสำหรับเซิร์ฟเวอร์ แต่ยังมีความสำคัญต่อการอนุมาน AI อีกด้วย ประการที่สี่ ความต้องการพื้นที่จัดเก็บข้อมูลสำหรับ AI ไม่ได้มาจากการฝึกฝน (training) เพียงอย่างเดียว แต่ยังมาจากการอนุมาน (inference) บันทึกข้อมูล (logs) และวงจรป้อนกลับข้อมูลอีกด้วย ในทางปฏิบัติ การไหลของข้อมูล AI เป็นวงจร: ข้อมูลดิบเข้าสู่ชั้นการจัดเก็บข้อมูล ถูกทำความสะอาด อ่าน นำไปฝึกฝน และแปลงเป็นโมเดล จากนั้นโมเดลเหล่านั้นถูกนำไปใช้ในการอนุมาน และผลลัพธ์จากการอนุมานสร้างบันทึกข้อมูลและข้อมูลป้อนกลับใหม่ที่วนกลับเข้าสู่ระบบจัดเก็บข้อมูล

สรุป: ศูนย์ข้อมูล AI ต้องการที่เก็บข้อมูลแบบหลายชั้น เนื่องจากข้อมูลแต่ละประเภทมีความถี่ในการเข้าถึง ความต้องการด้านเวลาแฝง และข้อจำกัดด้านต้นทุนที่แตกต่างกัน HBM แก้ปัญหาคอขวดด้านแบนด์วิดท์ใกล้ GPU, DRAM แก้ปัญหาคอขวดด้านหน่วยความจำระบบและการจัดตาราง, SSD แก้ปัญหาคอขวดด้านข้อมูลร้อนและการจัดเก็บถาวรความเร็วสูง, HDD แก้ปัญหาคอขวดด้านต้นทุนของการจัดเก็บข้อมูลขนาดใหญ่ระยะยาว การทำความเข้าใจสถาปัตยกรรมแบบหลายชั้นนี้เป็นสิ่งที่สมจริงกว่าการวิเคราะห์ผลิตภัณฑ์จัดเก็บข้อมูลใดๆ เพียงชนิดเดียวโดยแยกจากกัน

HBM ทำหน้าที่อะไร: หน่วยความจำแบนด์วิดท์สูงที่อยู่ใกล้ GPU

HBM ทำหน้าที่ส่งมอบข้อมูลแนวหน้าให้กับตัวเร่งประสิทธิภาพ AI มันไม่ใช่ฮาร์ดไดรฟ์ และไม่ใช่หน่วยความจำเซิร์ฟเวอร์ทั่วไป แต่เป็นหน่วยความจำแบบแบนด์วิดท์สูงที่ให้บริการโดยตรงแก่ GPU, AI ASIC และชิปประสิทธิภาพสูง ในระหว่างการฝึกและการอนุมานโมเดลขนาดใหญ่ แกนประมวลผลต้องอ่านน้ำหนัก (weights), การกระตุ้น (activations) และข้อมูลแคชอยู่ตลอดเวลา หากการจ่ายข้อมูลไม่ทัน ความสามารถในการประมวลผลของ GPU ก็จะฟุ่มเฟือยโดยไม่ถูกใช้งาน คุณค่าของ HBM อยู่ที่การลดเวลารอคอยดังกล่าว

แนวคิดพื้นฐานเบื้องหลัง HBM คือการซ้อนดาย DRAM หลายชั้นในแนวตั้งและเชื่อมต่อเข้ากับชิปประมวลผลผ่านอินเทอร์เฟซแบบกว้างและเทคโนโลยีการบรรจุชิปขั้นสูง เอกสารของ Samsung HBM4E ระบุว่า HBM4E รุ่นถัดไปมุ่งเป้าไปที่ AI, GPU และการประมวลผลประสิทธิภาพสูง โดยมีแบนด์วิดท์อยู่ที่ระดับ 4.0 TB/s ตัวเลขเหล่านี้แสดงให้เห็นว่าการแข่งขันด้าน HBM ไม่ได้เป็นเพียงเรื่องของความจุอีกต่อไป แต่ยังรวมถึงแบนด์วิดท์ การใช้พลังงาน การบรรจุชิป และความเสถียรของอุปทานด้วย

อย่างไรก็ตาม คอขวดของ HBM ไม่ได้มีเพียงแค่เรื่องราคาเท่านั้น แต่ยังถูกจำกัดด้วยเทคโนโลยีกระบวนการผลิตขั้นสูง การซ้อนชั้น (stacking) TSV การบรรจุ (packaging) การทดสอบ อัตราผลผลิต (yield) และการรับรองจากลูกค้า การเข้าสู่ห่วงโซ่อุปทานของ GPU หรือ AI ASIC มักต้องใช้ระยะเวลาตรวจสอบความถูกต้องที่ยาวนาน ผู้ผลิตไม่เพียงแต่ต้องผลิตตัวอย่างสินค้า แต่ยังต้องพิสูจน์ว่าผลิตภัณฑ์ของตนสามารถทำงานได้อย่างเสถียรและเชื่อถือได้ภายใต้เงื่อนไขกำลังไฟสูง อุณหภูมิสูง และการทำงานแบบพร้อมกันความหนาแน่นสูง Samsung, SK hynix และ Micron เป็นผู้ผลิต HBM รายหลัก แต่แต่ละบริษัทอาจแตกต่างกันในด้านรุ่นของผลิตภัณฑ์ อัตราผลผลิต การรับรองจากลูกค้า และการจัดสรรกำลังการผลิต

เมื่อติดตาม HBM คุณไม่ควรมองเพียงวลีว่า "ความต้องการแข็งแกร่ง" เท่านั้น ตัวชี้วัดที่มีประโยชน์กว่านั้น ได้แก่ กรอบเวลาการผลิตของ HBM3E, HBM4 และ HBM4E ความจุต่อแพ็กเกจ แบนด์วิดท์ การรับรองจากลูกค้า กำลังการผลิตด้านการบรรจุ อัตราผลผลิต (yield) ส่วนพรีเมียมของราคา และรายได้จาก HBM เป็นสัดส่วนของธุรกิจบริษัทหน่วยความจำแต่ละแห่ง หากอุปทาน HBM ตึงตัวและการรับรองจากลูกค้าคืบหน้าอย่างราบรื่น แรงกดดันด้านกำไร (earnings leverage) อาจแข็งแกร่งยิ่งขึ้น แต่หากขยายกำลังการผลิตเร็วเกินไปหรือลูกค้าเปลี่ยนการออกแบบ การประเมินมูลค่า (valuation) ก็สามารถปรับลดลงได้อย่างรวดเร็วเช่นกัน

สรุป: HBM คือชั้นหน่วยความจำแบบแบนด์วิดท์สูงที่อยู่ใกล้แกนประมวลผลมากที่สุดในศูนย์ข้อมูล AI โดยแก้ปัญหาการส่งมอบข้อมูลให้กับ GPU และตัวเร่ง AI เป็นหลัก มีความสำคัญต่อการฝึกโมเดล การอนุมาน (inference) บริบทยาว และการประสานงานแบบหลาย GPU แต่ก็ถูกจำกัดด้วยปัจจัยด้านการแพ็กเกจ อัตราผลผลิต พลังงาน ความจุ และการรับรองจากลูกค้า การเติบโตของดีมานด์ HBM มักให้ประโยชน์โดยตรงที่สุดแก่ผู้นำด้านหน่วยความจำรุ่นล้ำหน้าที่มีความสามารถในการผลิตจำนวนมากที่แข็งแกร่ง โดยบริษัทด้านการจัดเก็บข้อมูลไม่ใช่ทุกรายจะได้รับประโยชน์เท่ากัน

DRAM ทำหน้าที่อะไร: ชั้นหน่วยความจำหลักของระบบฝั่ง CPU และชั้นบัฟเฟอร์สำหรับการจัดคิวงาน

DRAM ทำหน้าที่รองรับหน่วยความจำระบบฝั่ง CPU การจัดการงาน (task orchestration) การเตรียมข้อมูลล่วงหน้า และการระบายแคชที่ล้น (cache spillover) ในเซิร์ฟเวอร์ AI แม้จะไม่ได้อยู่ใกล้ GPU เท่ากับ HBM แต่ DRAM คือตัวกำหนดว่าเซิร์ฟเวอร์สามารถจัดระเบียบข้อมูล จัดคิวคำขอ (schedule requests) จัดการ I/O และรองรับแรงกดดันบางส่วนจากแคชได้หรือไม่ หากขาด DRAM ที่เพียงพอ GPU อาจมีพลังการคำนวณที่แข็งแกร่งแต่ขาดการสนับสนุนด้านข้อมูลและงานในระดับระบบที่มั่นคง

ความแตกต่างระหว่าง HBM และ DRAM สามารถเข้าใจได้ผ่านตำแหน่งการติดตั้งและหน้าที่การทำงาน HBM ติดตั้งอยู่ข้าง GPU หรือ AI accelerator โดยเน้นแบนด์วิดท์สูงมากและเวลาแฝงต่ำ ส่วน DRAM ติดตั้งอยู่ฝั่ง CPU และระบบโฮสต์ โดยเน้นความจุหน่วยความจำของระบบที่มากขึ้น การจัดตารางงานที่ยืดหยุ่นกว่า และต้นทุนต่อหน่วยที่ต่ำกว่า เอกสาร Micron COMPUTEX 2026 ระบุว่า HBM รองรับการรันโมเดลที่ความเร็วสูงและ hot KV cache ในขณะที่ LPDDR และ DDR รองรับหน่วยความจำของระบบ การจัดการประสานงาน และการขยายบริบทยาว (long-context expansion)

การอนุมานของ AI เพิ่มความต้องการ DRAM เนื่องจากการอนุมานไม่ใช่เพียงแค่ "การรันโมเดลเพียงครั้งเดียว" เมื่อจำนวนผู้ใช้งานพร้อมกันเพิ่มขึ้น หน้าต่างบริบทยาวขึ้น และเวิร์กโฟลว์ของเอเจนต์เพิ่มมากขึ้น ระบบจำเป็นต้องจัดการกับคำขอ แคช, I/O ของเครือข่าย, การประมวลผลข้อมูลนำเข้าล่วงหน้า และบันทึกเอาต์พุตมากขึ้น KV cache มักถูกอธิบายว่าเป็นหน่วยความจำระยะสั้นของโมเดล AI ยิ่งลำดับข้อมูลนำเข้ายาวขึ้น แรงกดดันด้านแคชและการจัดการข้อมูลก็ยิ่งมากขึ้น แคชที่ใช้งานหนักบางส่วนยังคงอยู่ใน HBM ในขณะที่บางส่วนอาจล้นไปสู่ DRAM, SSD หรือชั้นที่ต่ำกว่า นี่คือทิศทางทั่วไปในสถาปัตยกรรมของระบบอนุมาน

DDR5 ยังคงเป็นรากฐานสำคัญของหน่วยความจำในระบบเซิร์ฟเวอร์ LPDDR อาจมีบทบาทในอุปกรณ์ AI ที่ใช้พลังงานต่ำและรูปแบบโมดูลใหม่ๆ CXL เปิดโอกาสในอนาคตสำหรับการขยายหน่วยความจำและการรวมกลุ่มหน่วยความจำ (memory pooling) ตัวอย่างเช่น Marvell CXL switch นำเสนอการรวมกลุ่มหน่วยความจำระดับแร็คเพื่อขยายหน่วยความจำที่พร้อมใช้งานสำหรับ CPU, GPU, XPU และตัวเร่งอื่นๆ ซึ่งแสดงให้เห็นว่าคอขวดด้านหน่วยความจำของ AI กำลังขยายจากระดับชิปเดี่ยวไปสู่ระดับแร็คและคลัสเตอร์

สรุป: DRAM คือหน่วยความจำระบบและชั้นบัฟเฟอร์ในศูนย์ข้อมูล AI มันรองรับการจัดตารางฝั่ง CPU การประมวลผลข้อมูลล่วงหน้า การจัดการคำขอ และการล้นของแคชบางส่วน มันไม่ได้อยู่ใกล้ GPU เท่ากับ HBM แต่มีความสำคัญต่อการทำงานแบบขนานในการอนุมาน บริบทที่ยาว การจัดการ I/O และการทำงานของเซิร์ฟเวอร์ที่มั่นคง ในการประเมินความต้องการ DRAM คุณต้องพิจารณาเซิร์ฟเวอร์ AI เซิร์ฟเวอร์ดั้งเดิม พีซี สมาร์ทโฟน และแนวโน้มการขยายตัวของหน่วยความจำในศูนย์ข้อมูล—ไม่ใช่แค่โมเมนตัมของ HBM เท่านั้น

SSD ทำอะไร: ข้อมูลร้อน ไฟล์โมเดล และการจัดเก็บถาวรความเร็วสูง

SSD ทำหน้าที่จัดการพื้นที่จัดเก็บข้อมูลถาวรความเร็วสูงในศูนย์ข้อมูล AI แม้ว่าจะช้ากว่า HBM และ DRAM แต่สามารถเก็บรักษาข้อมูลไว้ได้หลังจากไฟดับ และแม้จะเร็วกว่า HDD แต่ต้นทุนต่อหน่วยความจุก็สูงกว่า ดังนั้น SSD จึงเหมาะที่สุดสำหรับข้อมูลที่ถูกเข้าถึงบ่อยและคำนึงถึงประสิทธิภาพ ซึ่งต้องอ่านหรือเขียนอย่างรวดเร็ว เช่น ไฟล์โมเดล ตัวอย่างข้อมูลสำหรับการฝึก checkpoint ข้อมูลร้อน ไฟล์ log และ KV cache แบบถาวรบางส่วน

Solidigm inference context memory storage อธิบายการจัดเก็บบริบท (context storage) ในการอนุมาน AI ว่าเป็นปัญหาการจัดเก็บแบบแฟลชรูปแบบใหม่ แนวคิดหลักคือ เมื่อบริบทและแคชมีขนาดใหญ่เกินกว่า HBM และ DRAM จะเป็น SSD ความหนาแน่นสูงที่อยู่ใกล้กับ GPU pods ที่กลายเป็นชั้นสำคัญในการขยายความสามารถการอนุมาน NVIDIA BlueField-4 CMX ยังวาง GPU HBM, system DRAM และที่จัดเก็บแบบ local หรือ rack-attached ไว้ในลำดับชั้นบริบทการอนุมานเดียวกัน ซึ่งแสดงให้เห็นว่า SSD ไม่ได้เป็นเพียงทางเลือกแทนฮาร์ดดิสก์แบบดั้งเดิมเท่านั้น แต่เป็นส่วนหนึ่งของสถาปัตยกรรมการอนุมาน AI

ความแตกต่างระหว่าง SSD สำหรับองค์กรกับ SSD สำหรับผู้ใช้ทั่วไปก็เป็นสิ่งสำคัญเช่นกัน ศูนย์ข้อมูล AI ให้ความสำคัญกับการเขียนข้อมูลต่อเนื่อง การป้องกันไฟดับ ความหน่วงที่ปลายทาง (tail latency) ที่ต่ำ ความทนทาน การระบายความร้อน และรูปแบบตัวถัง (form factor) มากกว่าความเร็วในการอ่านตามตัวเลขโฆษณาเพียงอย่างเดียว ทั้ง U.2, E1.S, E3.S, PCIe Gen5/Gen6, QLC และ TLC ล้วนส่งผลต่อความหนาแน่นของแร็ค การใช้พลังงาน และต้นทุนต่อเทระไบต์ SSD ความจุสูงสามารถปรับปรุงความจุต่อแร็คและความหนาแน่นของประสิทธิภาพได้ แต่สำหรับข้อมูลการจัดเก็บถาวรระยะยาวและการเข้าถึงที่ไม่บ่อย ต้นทุนของ SSD ยังคงสูงกว่า HDD โดยทั่วไป

SSD ไม่สามารถแทนที่ HBM ได้ เนื่องจากความหน่วงและแบนด์วิดท์ของมันต่ำกว่าหน่วยความจำความเร็วสูง (HBM) ที่อยู่ข้าง GPU อย่างมาก และไม่สามารถแทนที่ DRAM ได้เช่นกัน เพราะไม่เหมาะสำหรับใช้เป็นหน่วยความจำระบบแบบอเนกประสงค์ SSD สามารถแทนที่งานบางประเภทของ HDD ที่มีความถี่สูงได้ โดยเฉพาะในด้านการโหลดโมเดล การเข้าถึงข้อมูลร้อน (hot data) การทำ checkpoint และการขยายแคช ในมุมมองการลงทุน ความต้องการ SSD ควรได้รับการประเมินผ่านการจัดซื้อ enterprise SSD ราคา NAND การนำ QLC มาใช้ คำสั่งซื้อจากลูกค้าศูนย์ข้อมูล สต็อก NAND และอัตรากำไรขั้นต้น ไม่ใช่เพียงแค่ปริมาณการจัดส่งเซิร์ฟเวอร์ AI เท่านั้น

สรุป: SSD คือชั้นจัดเก็บถาวรความเร็วสูงในศูนย์ข้อมูล AI โดยทำหน้าที่หลักในการจัดการข้อมูลร้อน การโหลดโมเดล การอ่านข้อมูลสำหรับการฝึกฝน checkpoints และการเขียน log มันเชื่อมต่อระหว่างชั้นหน่วยความจำกับชั้นการจัดเก็บระยะยาว SSD ไม่สามารถแทนที่ HBM หรือ DRAM ได้ และก็ไม่สามารถแทนที่ HDD ได้อย่างสมบูรณ์ คุณค่าหลักของ SSD คือการสร้างสมดุลระหว่างความเร็ว ความจุ และการจัดเก็บข้อมูลถาวร โดยเฉพาะอย่างยิ่งภายใต้แรงกดดันจาก context และข้อมูลร้อนที่เกิดจากการเติบโตของงาน inference

HDD ทำอะไร: ข้อมูลจำนวนมหาศาล การจัดเก็บถาวร การสำรองข้อมูล และวงจรข้อมูลของ AI

HDD ทำหน้าที่เป็นชั้นข้อมูลขนาดใหญ่ ต้นทุนต่ำ และจัดเก็บระยะยาวในศูนย์ข้อมูล AI โดยไม่เหมาะสำหรับการใช้แทน HBM, DRAM หรือ SSD ประสิทธิภาพสูง แต่ยังคงมีความสำคัญต่อข้อมูลการฝึกฝนดิบ บันทึกประวัติ วิดีโอ การสำรองข้อมูล การจัดเก็บถาวร การจัดเก็บแบบออบเจ็กต์ และข้อมูลเย็น ยิ่ง AI สร้างข้อมูลมากเท่าใด ความต้องการฐานความจุที่ต้นทุนต่ำและขยายสเกลได้ตามแนวนอนก็ยิ่งมากขึ้นเท่านั้น

HDD ยังไม่ถูกกำจัดไปในยุค AI ด้วยเหตุผลง่าย ๆ คือ ข้อมูลไม่ใช่ทุกชนิดที่สมควรจะถูกจัดเก็บบน SSD การฝึกโมเดลต้องใช้ข้อมูลดิบจำนวนมหาศาล บริการการอนุมาน (inference) สร้าง log การโต้ตอบของผู้ใช้ ข้อมูลการตรวจสอบ และข้อมูลผลตอบรับอย่างต่อเนื่อง AI แบบมัลติโมดัลยังสร้างไฟล์รูปภาพ เสียง และวิดีโอเพิ่มขึ้นอีกด้วย ชุดข้อมูลบางส่วนต้องการการเข้าถึงที่รวดเร็ว ขณะที่บางส่วนต้องการเพียงการเก็บรักษาระยะยาว สำหรับกลุ่มหลังนี้ ความคุ้มค่าด้านความจุของ HDD ยังคงมีความสำคัญ Seagate mass-capacity storage เน้นย้ำว่า การขยายขนาด AI ต้องการฮาร์ดดิสก์ความจุสูงเพื่อรองรับการจัดเก็บข้อมูลขนาดใหญ่

เทคโนโลยี HDD ยังคงพัฒนาไปอย่างต่อเนื่อง HAMR, ePMR, SMR และ UltraSMR มีเป้าหมายเพื่อเพิ่มความจุต่อไดรฟ์ ลดต้นทุนต่อเทระไบต์ และปรับปรุงประสิทธิภาพด้านพลังงานและพื้นที่ของศูนย์ข้อมูล นวัตกรรมการจัดเก็บข้อมูลยุค AI ของ Western Digital เน้นย้ำถึง UltraSMR, ePMR, HAMR และชั้นนามธรรมซอฟต์แวร์สำหรับงานขนาด AI ไดรฟ์ 32TB ของ Seagate ยังแสดงให้เห็นว่า HDD ความจุสูงยังคงพัฒนาต่อไปสำหรับกรณีการใช้งานวิดีโอ AI, NAS และศูนย์ข้อมูล

ตรรกะการลงทุนของ HDD แตกต่างจาก HBM HBM ขึ้นอยู่กับแบนด์วิดท์ การแพ็กเกจ และการรับรองลูกค้า ส่วน HDD ขึ้นอยู่กับความจุต่อดวง การจัดซื้อของลูกค้าคลาวด์ ต้นทุนต่อเทราไบต์ วินัยด้านกำลังการผลิต และอัตรากำไรขั้นต้น ศูนย์ข้อมูล AI กำลังไล่ตามการอนุมาน (inference) ที่เร็วขึ้นและสร้างข้อมูลมากขึ้นพร้อมกัน ก่อให้เกิดวงจรของการประมวลผล การสร้างข้อมูล การจัดเก็บ และการฝึกโมเดลซ้ำ ยิ่งวงจรนี้ใหญ่ขึ้นเท่าไร ข้อมูลเย็น (cold data) และการจัดเก็บแบบเนียร์ไลน์ (nearline storage) ก็ยิ่งมีโอกาสหายไปยากขึ้นเท่านั้น

สรุป: HDD คือรากฐานด้านความจุของศูนย์ข้อมูล AI โดยรับผิดชอบงานการเก็บรักษาระยะยาว การจัดเก็บถาวร (archiving) การสำรองข้อมูล ข้อมูลเย็น (cold data) และ object storage แม้จะไม่ได้มุ่งเน้นความหน่วงต่ำที่สุดหรือรองรับการคำนวณแบบแบนด์วิดท์สูง แต่ก็ยังคงมีข้อได้เปรียบในด้านต้นทุนต่อเทระไบต์และการขยายความจุขนาดใหญ่ SSD และ HDD ไม่ใช่สิ่งทดแทนกันอย่างง่ายๆ โดย SSD รับผิดชอบข้อมูลร้อนและการเข้าถึงความเร็วสูง ขณะที่ HDD รับผิดชอบข้อมูลระยะยาวและประสิทธิภาพทางเศรษฐกิจด้านความจุ

วิเคราะห์ตรรกะการลงทุนผ่านสถาปัตยกรรมการจัดเก็บข้อมูล: วิธีตัดสินลำดับความคุ้มค่าของ HBM, DRAM, SSD และ HDD

จากมุมมองการลงทุน ว่ากลุ่มผลิตภัณฑ์ใดจะได้ประโยชน์มากที่สุด—HBM, DRAM, SSD หรือ HDD—ขึ้นอยู่กับว่าคอขวดของดีมานด์ AI จะปรากฏขึ้นที่จุดใด หากคอขวดอยู่ที่การส่งข้อมูลของ GPU, HBM คือผู้ได้รับประโยชน์โดยตรงมากที่สุด หากคอขวดอยู่ที่การทำงานพร้อมกันของการอนุมาน (inference concurrency) และการจัดตารางของระบบ DRAM จะมีความสำคัญมากขึ้น หากคอขวดอยู่ที่การโหลดโมเดลและข้อมูลที่ใช้งานบ่อย (hot data), SSD จะเกี่ยวข้องมากกว่า หากคอขวดอยู่ที่การจัดเก็บข้อมูลระยะยาวและต้นทุน HDD จะมีความสำคัญมากขึ้น

การฝึกฝน AI (AI training) และการอนุมาน AI (AI inference) ให้ประโยชน์กับส่วนต่าง ๆ ของสถาปัตยกรรมระบบแตกต่างกัน การฝึกฝนขึ้นอยู่กับ GPU, HBM, การอ่านข้อมูลฝึกฝน และพื้นที่จัดเก็บ checkpoint เป็นหลักมากกว่า ส่วนการอนุมานขึ้นอยู่กับความสามารถในการทำงานพร้อมกัน (concurrency), context cache, การเข้าถึงข้อมูลที่ใช้บ่อย และการเก็บรักษา log เป็นหลักมากกว่า AI แบบมัลติโมดัล (Multimodal AI) เพิ่มความต้องการพื้นที่จัดเก็บสำหรับรูปภาพ วิดีโอ และเสียง เวิร์กโฟลว์ของเอเจนต์ (Agent workflows) และฐานความรู้ขององค์กรเพิ่มความต้องการในการจัดเก็บข้อมูลเวกเตอร์ บันทึกการโต้ตอบ และบริบทระยะยาว เมื่อเวลาผ่านไป ปริมาณงานการอนุมานที่เป็นมาตรฐานอาจทำให้ความต้องการ SSD และ HDD มีความเสถียรมากขึ้น ในขณะที่ HBM ผูกพันกับวงจรของแพลตฟอร์ม GPU แต่ละรุ่นและการรับรองจากลูกค้ามากกว่า

ความผิดพลาดที่พบบ่อยที่สุดของนักลงทุนคือการจัดกลุ่ม "AI storage" ทั้งหมดไว้ในตรรกะเดียวกัน บริษัทชิปหน่วยความจำ ผู้ขาย SSD สำหรับองค์กร บริษัท HDD และผู้ให้บริการระบบจัดเก็บข้อมูลสำหรับองค์กร ต่างกันมีตัวคูณรายได้ (earnings leverage) และตรรกะการประเมินมูลค่าที่แตกต่างกัน คุณจำเป็นต้องพิจารณาตำแหน่งผลิตภัณฑ์ วงจรการตั้งราคา การเปลี่ยนแปลงของสินค้าคงคลัง การขยายกำลังการผลิต ความเข้มข้นของลูกค้า และต้นทุนการซื้อขายเข้าด้วยกัน

หากคุณติดตามชื่อ HBM, DRAM, SSD และ HDD ภายในห่วงโซ่การจัดเก็บข้อมูลของศูนย์ข้อมูล AI คุณจำเป็นต้องประเมินไม่เพียงแค่แนวโน้มของอุตสาหกรรม แต่ยังรวมถึงต้นทุนการซื้อขายจริงด้วย ค่าธรรมเนียมการซื้อขายหุ้นสหรัฐฯ มักรวมถึงมากกว่าค่าคอมมิชชั่น โดยอาจรวมถึงค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมตัวแทนภายนอก ค่าธรรมเนียมกิจกรรมการซื้อขาย ส่วนต่างราคาเสนอซื้อ-ขาย และต้นทุนการแปลงสกุลเงินต่างประเทศ คุณสามารถใช้ข้อมูลตลาดหุ้นสหรัฐฯ เพื่อเปรียบเทียบ Micron, Western Digital, Seagate, Samsung ADR หรือ ETF ที่เกี่ยวข้อง จากนั้นตรวจสอบค่าธรรมเนียมการซื้อขายหุ้นสหรัฐฯ ของ Biya สำหรับค่าคอมมิชชั่น ค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมตัวแทนภายนอก และต้นทุนที่แสดงตามคำสั่งซื้อขาย หุ้นสหรัฐฯ ของ Biyaค่าคอมมิชชั่นการซื้อขายหุ้นคือ $0 ส่วนค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมหน่วยงานภายนอก และค่าใช้จ่ายอื่น ๆ ขึ้นอยู่กับการเปิดเผยค่าธรรมเนียมและหน้าสั่งซื้อ

สรุป: การวิเคราะห์การลงทุนด้านการจัดเก็บข้อมูล AI ไม่ควรมุ่งเน้นเพียงแค่ HBM หรือ "การเติบโตของข้อมูล" ในภาพรวมเท่านั้น HBM สอดคล้องกับแบนด์วิดท์ DRAM สอดคล้องกับหน่วยความจำระบบและการสนับสนุนการอนุมาน (inference) SSD สอดคล้องกับข้อมูลร้อนและการจัดเก็บถาวรความเร็วสูง HDD สอดคล้องกับประสิทธิภาพด้านความจุและการเก็บรักษาระยะยาว วิธีการที่มีประโยชน์กว่าคือ ระบุคอขวดของศูนย์ข้อมูลให้พบก่อน จากนั้นจึงจับคู่กับผลิตภัณฑ์ บริษัท วงจรราคา มูลค่าหลักทรัพย์ และต้นทุนการซื้อขายจริง

เมื่อวิเคราะห์สถาปัตยกรรมการจัดเก็บข้อมูลของศูนย์ข้อมูล AI คุณสามารถวาง HBM, DRAM, SSD และ HDD ไว้บนแผนที่ชั้นข้อมูลเดียวกันได้ แทนที่จะไล่ตามจุดคอขวดเพียงจุดเดียว ยิ่งชั้นใดอยู่ใกล้ GPU มากเท่าไร ชั้นนั้นก็ยิ่งขึ้นอยู่กับแบนด์วิดท์และเวลาแฝงมากขึ้นเท่านั้น ยิ่งอยู่ใกล้ทะเลสาบข้อมูล (data lake) มากเท่าไร ก็ยิ่งขึ้นอยู่กับความจุและต้นทุนมากขึ้นเท่านั้น หากคุณต้องการเปรียบเทียบบริษัทชิปหน่วยความจำ เอสเอสดีระดับองค์กร HDD และโครงสร้างพื้นฐานศูนย์ข้อมูลที่จดทะเบียนในสหรัฐฯ และฮ่องกง คุณสามารถใช้ Biya เพื่อดูสินทรัพย์ที่เกี่ยวข้อง และใช้ ข้อมูลตลาดหุ้นฮ่องกง เพื่อติดตามหุ้นเซมิคอนดักเตอร์และฮาร์ดแวร์ในเอเชีย นอกจากนี้คุณยังสามารถ ดาวน์โหลดแอป Biya เพื่อจัดการรายการเฝ้าดูและบันทึกการซื้อขายได้อีกด้วยความพร้อมใช้งานของบริการขึ้นอยู่กับตำแหน่งที่ตั้งของผู้ใช้ ผลการตรวจสอบตัวตน กฎเกณฑ์ของแพลตฟอร์ม และกฎหมายและข้อบังคับที่เกี่ยวข้อง ข้อมูลตลาดสาธารณะ กฎการซื้อขาย และโครงสร้างค่าธรรมเนียมมีไว้เพื่อการวิเคราะห์อ้างอิงเท่านั้น และไม่ถือเป็นคำแนะนำในการลงทุน

คำถามที่พบบ่อย

ทำไมศูนย์ข้อมูล AI จึงต้องใช้ทั้ง HBM และ DRAM?

ศูนย์ข้อมูล AI ต้องใช้ทั้ง HBM และ DRAM เนื่องจากหน่วยความจำทั้งสองชนิดนี้ติดตั้งอยู่ในตำแหน่งที่แตกต่างกันและทำหน้าที่ต่างกัน HBM ทำหน้าที่หลักในการรองรับการประมวลผลของ GPU ที่ต้องการแบนด์วิดท์สูง ขณะที่ DRAM ทำหน้าที่หลักในการเป็นหน่วยความจำระบบฝั่ง CPU การจัดตารางงาน การประมวลผลล่วงหน้า และหน่วยความจำแคชสำรอง HBM มีความเร็วสูงกว่าแต่มีราคาแพงกว่า ส่วน DRAM เหมาะสำหรับการใช้งานระดับระบบที่ต้องการความจุและการจัดการที่ยืดหยุ่นมากกว่า

การเติบโตของ AI Inference ส่งผลให้ความต้องการ SSD เพิ่มขึ้นหรือไม่?

ใช่ การเติบโตของ AI inference สามารถเพิ่มความต้องการสำหรับการโหลดโมเดล การเข้าถึงข้อมูลร้อน (hot-data) การเขียน log การรักษาบริบทของผู้ใช้ และการแคชแบบถาวรบางส่วน SSD สร้างสมดุลระหว่างความเร็ว ความจุ และการจัดเก็บแบบไม่ลบเลือน ทำให้เหมาะสำหรับชั้นข้อมูลร้อน อย่างไรก็ตาม ความต้องการจริงยังคงขึ้นอยู่กับสถาปัตยกรรมของโมเดล จำนวน concurrent และกลยุทธ์การแคช

HDD ยังคงมีมูลค่าการลงทุนในศูนย์ข้อมูล AI หรือไม่?

HDD อาจยังคงมีมูลค่าการลงทุนในศูนย์ข้อมูล AI ภายใต้เงื่อนไขที่เหมาะสม โดยไม่เหมาะสำหรับงานประมวลผลที่ต้องการแบนด์วิดท์สูงหรือการเข้าถึงข้อมูลร้อนที่มีความหน่วงต่ำ แต่มีข้อได้เปรียบด้านต้นทุนต่อเทรไบต์ในด้านข้อมูลดิบ การจัดเก็บถาวร (archiving) การสำรองข้อมูล ข้อมูลเย็น และ object storage ปัจจัยสำคัญที่ควรติดตามคือ การจัดซื้อจัดจ้างของลูกค้าคลาวด์ ความจุต่อไดรฟ์ และอัตรากำไรขั้นต้น

การเติบโตของความต้องการ HBM เป็นประโยชน์ต่อบริษัทหน่วยความจำทุกแห่งหรือไม่?

ไม่จำเป็น ความต้องการ HBM ส่งผลดีต่อบริษัทที่มีความสามารถในการผลิต HBM จำนวนมากอย่างทันสมัย ความร่วมมือด้านการบรรจุภัณฑ์ การควบคุมอัตราผลผลิต และการผ่านการรับรองจากลูกค้า บริษัท NAND ทั่วไป HDD หรือหน่วยความจำเฉพาะทางมีเส้นทางได้รับประโยชน์ที่แตกต่างกันและไม่ควรถูกจัดอยู่ในตรรกะเดียวกัน นักลงทุนควรตรวจสอบส่วนผสมของผลิตภัณฑ์และการสัมผัสด้านรายได้ของแต่ละบริษัท

นักลงทุนทั่วไปสามารถติดตามวงจรหน่วยความจำ AI ได้อย่างไร?

นักลงทุนทั่วไปสามารถติดตามความคืบหน้าการรับรอง HBM ราคา DRAM และ NAND การจัดซื้อ SSD สำหรับองค์กร กำลังการจัดส่ง nearline HDD งบลงทุน (CAPEX) ของผู้ให้บริการคลาวด์ และอัตรากำไรขั้นต้นของบริษัทหน่วยความจำได้ ตัวชี้วัดเพียงตัวเดียวไม่เพียงพอต่อการประเมินวงจรทั้งหมด ควรใช้สัญญาณจากราคา สินค้าคงคลัง กำลังการผลิต และการประเมินมูลค่าประกอบกันจะดีกว่า

สถาปัตยกรรมพื้นที่จัดเก็บข้อมูลของศูนย์ข้อมูล AI ส่งผลต่อการเลือก ETF หรือไม่?

มีผลครับ ETF ที่เน้นลงทุนใน HBM และ DRAM จะมีความอ่อนไหวต่อวงจรราคาชิปหน่วยความจำมากกว่า ในขณะที่กองทุนที่ครอบคลุมบริษัท SSD, HDD หรือระบบจัดเก็บข้อมูลสำหรับองค์กร อาจสะท้อนตรรกะด้านกำลังการผลิตและโครงสร้างพื้นฐานของศูนย์ข้อมูลได้ชัดเจนกว่า ก่อนตัดสินใจเลือก นักลงทุนควรตรวจสอบสินทรัพย์อ้างอิงในพอร์ต อัตราค่าธรรมเนียม การเปิดรับตามภูมิภาค ระดับการรวมศูนย์ และการเปิดเผยข้อมูลความเสี่ยง