
เซิร์ฟเวอร์ AI ขับเคลื่อนความต้องการด้านการจัดเก็บข้อมูล ไม่ใช่เพียงเพราะ "มีเซิร์ฟเวอร์มากขึ้น" แต่เพราะการฝึกโมเดล การอนุมาน (inference) ข้อมูลหลายรูปแบบ (multimodal) การค้นหาแบบ RAG และการบูรณาการข้อมูลส่วนตัวขององค์กร ล้วนทำให้ข้อมูลเคลื่อนที่บ่อยครั้งระหว่าง GPU, CPU, หน่วยความจำ, SSD และ HDD HBM ช่วยแก้ปัญหาคอขวดด้านแบนด์วิดท์ฝั่ง GPU หน่วยความจำ DRAM ของเซิร์ฟเวอร์รองรับปริมาณงานฝั่งระบบ SSD สำหรับองค์กรรับผิดชอบข้อมูลร้อนและแคชสำหรับการอนุมาน ส่วน HDD ให้ความจุสำหรับ Data Lake และการเก็บถาวร หากคุณติดตามโครงสร้างพื้นฐาน AI หรือห่วงโซ่อุปทานด้านการจัดเก็บข้อมูล คุณจำเป็นต้องมองทั้งความเร็ว ความจุ ต้นทุน การใช้พลังงาน และวงจรการจัดหาไปพร้อมกัน

เหตุผลหลักที่เซิร์ฟเวอร์ AI ขับเคลื่อนความต้องการด้านที่จัดเก็บข้อมูลคือปริมาณงาน AI ได้พัฒนาจากการเป็นงานที่ "เน้นการประมวลผล" เพียงอย่างเดียว มาเป็น "เน้นข้อมูล + เน้นหน่วยความจำ + เน้นการจัดเก็บข้อมูล" การฝึกโมเดลต้องอ่านชุดข้อมูลขนาดใหญ่อย่างต่อเนื่อง การอนุมาน (inference) ต้องโหลดน้ำหนักโมเดลและรักษาสถานะบริบท โมเดลมัลติโมเดีย (multimodal) ต้องประมวลผลรูปภาพ เสียง วิดีโอ และบันทึกข้อมูล (logs) การเพิ่ม GPU เพียงอย่างเดียวไม่เพียงพอ ข้อมูลต้องเคลื่อนย้ายข้ามระดับชั้นระหว่าง HBM, DRAM, SSD และ HDD เพื่อให้ทรัพยากรการประมวลผลทำงานได้อย่างมีประสิทธิภาพอย่างต่อเนื่อง
เซิร์ฟเวอร์แบบดั้งเดิมมักเผชิญคอขวดที่ CPU เครือข่าย หรือ disk I/O แต่คอขวดของ AI server มีความซับซ้อนมากกว่านั้น GPU สามารถทำการคำนวณเมทริกซ์จำนวนมหาศาลได้ในช่วงเวลาอันสั้นมาก แต่หากน้ำหนักโมเดล (model weights) ค่าการกระตุ้น (activations) KV cache ตัวอย่างข้อมูลสำหรับฝึก (training samples) หรือ checkpoint ไม่สามารถส่งถึงหน่วยประมวลผลได้ทันเวลา GPU ก็จะต้องรอข้อมูล คุณสามารถมองศูนย์ข้อมูล AI เป็นกรวยแบบหลายชั้นได้: HBM ที่อยู่ใกล้ GPU ที่สุดเป็นชั้นที่เร็วที่สุดและแพงที่สุด DRAM ฝั่ง CPU ให้ความจุที่มากกว่าแต่แบนด์วิดท์ต่ำกว่า NVMe SSD รองรับข้อมูลร้อน (hot data) และการอ่าน/เขียนที่ต้องการ latency ต่ำ ส่วน HDD ให้กลุ่มความจุขนาดใหญ่ในต้นทุนต่ำ
สเปกของ NVIDIA GB300 NVL72 สะท้อนแนวโน้มนี้ได้อย่างชัดเจน ระบบขนาดแร็คหนึ่งชุดผสาน GPU Blackwell Ultra จำนวน 72 ตัว, CPU Grace จำนวน 36 ตัว, หน่วยความจำความเร็วสูง 37TB, หน่วยความจำ GPU 20TB และหน่วยความจำ CPU 17TB ไว้ภายในสถาปัตยกรรมเดียวกัน กล่าวอีกนัยหนึ่ง เซิร์ฟเวอร์ AI ไม่ได้เป็นเพียง "GPU ที่เสียบเข้ากับเมนบอร์ด" อีกต่อไป แต่เป็นระบบข้อมูลขนาดแร็คที่ GPU, CPU, หน่วยความจำ, ระบบเชื่อมต่อ และที่เก็บข้อมูลได้รับการออกแบบให้เป็นหนึ่งเดียวกัน
สถานการณ์ AI ที่แตกต่างกันสอดคล้องกับชั้นของพื้นที่จัดเก็บข้อมูลที่แตกต่างกัน:
| สถานการณ์ AI | ข้อมูลหลัก | เมตริกสำคัญ | ชั้นจัดเก็บข้อมูลหลัก |
|---|---|---|---|
| การฝึกโมเดลขนาดใหญ่ | ชุดข้อมูลฝึก, พารามิเตอร์, การกระตุ้น | แบนด์วิดท์, ทรูพุต, ความเสถียร | HBM, DRAM, SSD, HDD |
| การปรับจูนโมเดล | ข้อมูลส่วนตัว, checkpoints | ความเร็วในการอ่าน/เขียน, ความเร็วในการกู้คืน | SSD, DRAM, HDD |
| การอนุมานออนไลน์ | น้ำหนักโมเดล, KV cache | เวลาแฝง, ความสามารถพร้อมกัน, ความจุ | HBM, DRAM, SSD |
| การค้นคืนแบบ RAG | ดัชนีเวกเตอร์, คลังเอกสาร | IOPS, เวลาแฝงในการสืบค้น | Enterprise SSD, DRAM |
| AI หลายโมดัล | รูปภาพ, วิดีโอ, เสียง | ความจุ, ทรูพุต, ต้นทุน | SSD, HDD |
| การสำรองข้อมูลและการเก็บถาวร | เวอร์ชันประวัติศาสตร์, บันทึก, ข้อมูลการปฏิบัติตามข้อกำหนด | $/TB, ความน่าเชื่อถือ | HDD, การจัดเก็บแบบออบเจ็กต์ |
ในห่วงโซ่นี้ HBM รับผิดชอบ “ข้อมูลที่เร็วที่สุด” DRAM ของเซิร์ฟเวอร์รับผิดชอบ “ข้อมูลที่ใช้งานอยู่ฝั่งระบบ” SSD ระดับองค์กรรับผิดชอบ “การอ่าน/เขียนที่บ่อยครั้งและข้อมูลร้อน” และ HDD รับผิดชอบ “ข้อมูลความจุสูงระยะยาว” ดังนั้นเซิร์ฟเวอร์ AI จึงไม่ได้ให้ประโยชน์แก่หมวดหมู่อุปกรณ์จัดเก็บข้อมูลเพียงประเภทเดียว แต่ช่วยจัดระเบียบพีระมิดการจัดเก็บข้อมูลทั้งหมดใหม่
สรุป: เซิร์ฟเวอร์ AI ขับเคลื่อนความต้องการด้านพื้นที่จัดเก็บข้อมูล ไม่ใช่เพียงเพราะจำนวนเซิร์ฟเวอร์เพียงอย่างเดียว แต่เพราะปริมาณงาน AI ขยายขนาดข้อมูล ความถี่ในการเข้าถึง ความยาวของบริบท และความสามารถในการทำงานพร้อมกันของระบบไปพร้อมกัน การฝึกโมเดลต้องการการป้อนข้อมูลที่มีทรูพุตสูง การอนุมาน (inference) ต้องการแคชที่มีความหน่วงต่ำและบริบทที่ยาวขึ้น โมเดลมัลติโมเดียลต้องการวัตถุดิบดิบมากขึ้นสำหรับจัดเก็บ ระบบ AI ระดับองค์กรยังนำข้อมูลส่วนตัวขององค์กรเข้าสู่ระบบโมเดลอีกด้วย HBM, DRAM สำหรับเซิร์ฟเวอร์, SSD สำหรับองค์กร และ HDD ต่างก็แก้ปัญหาในระดับที่แตกต่างกัน ยิ่งระดับนั้นอยู่ใกล้ GPU มากเท่าไร แบนด์วิดท์และความหน่วงยิ่งมีความสำคัญมากขึ้นเท่านั้น ยิ่งระดับนั้นอยู่ใกล้ Data Lake มากเท่าไร ความจุ ต้นทุน และความน่าเชื่อถือยิ่งมีความสำคัญมากขึ้นเท่านั้นเมื่อวิเคราะห์ความต้องการพื้นที่จัดเก็บข้อมูลสำหรับ AI คุณควรแยกความต้องการที่ขับเคลื่อนด้วยความเร็วออกจากความต้องการที่ขับเคลื่อนด้วยความจุ แทนที่จะสันนิษฐานว่าสตอเรจจำพวกใดจำพวกหนึ่งจะเข้ามาแทนที่ประเภทอื่นทั้งหมด

บทบาทของ HBM ในเซิร์ฟเวอร์ AI คือการแก้ปัญหา "กำแพงแบนด์วิดท์" และ "กำแพงความจุหน่วยความจำ" ฝั่ง GPU ยิ่งโมเดล AI มีขนาดใหญ่ขึ้น พารามิเตอร์ ค่าการกระตุ้น (activations) และ KV cache ก็ยิ่งต้องใช้พื้นที่มากขึ้น GPU จำเป็นต้องอ่านข้อมูลจำนวนมหาศาลภายในช่วงเวลาที่สั้นมาก HBM ติดตั้งอยู่ใกล้กับแพ็กเกจ GPU และให้แบนด์วิดท์สูงกว่า DRAM สำหรับเซิร์ฟเวอร์ทั่วไปมาก จึงส่งผลโดยตรงต่อความเร็วในการเทรน การประมวลผลอินเฟอเรนซ์แบบขนาน ความสามารถในการรองรับบริบทยาว และต้นทุนต่อโทเคน
คุณสามารถมองว่า HBM เป็น “โต๊ะทำงานความเร็วสูง” ของ GPU สำหรับ AI ก็ได้ หากโต๊ะทำงานมีขนาดเล็กเกินไป น้ำหนักโมเดลและบริบทจะไม่สามารถใส่ได้ หากการเคลื่อนย้ายข้อมูลช้าเกินไป ทรัพยากรการประมวลผลของ GPU ก็จะอยู่เฉยๆ โดยไม่ถูกใช้งาน เมื่อเปิดตัว Blackwell Ultra NVIDIA ระบุว่า GPU เพียงตัวเดียวสามารถกำหนดค่าด้วย HBM3e ขนาด 288GB เพื่อรองรับโมเดลที่ใหญ่ขึ้น บริบทที่ยาวนานขึ้น และงานด้าน inference ได้ สิ่งนี้แสดงให้เห็นว่าการอัปเกรด HBM ไม่ได้เกี่ยวข้องกับการขยายความจุเพียงอย่างเดียว แต่ความจุ แบนด์วิดท์ ประสิทธิภาพด้านพลังงาน และความสามารถในการแพ็กเกจ ต่างก็ได้รับการพัฒนาไปพร้อมกัน
HBM ยังมีกำแพงกีดกันด้านอุปทานที่สูงกว่า DRAM ทั่วไป โดยต้องใช้การซ้อนหลายชั้น, TSV, บรรจุภัณฑ์ขั้นสูง, การควบคุมอัตราผลผลิต และการรับรองจากลูกค้า จึงไม่สามารถถูกแทนที่ได้อย่างรวดเร็วโดยสายการผลิตหน่วยความจำทั่วไป Micron ประกาศว่า HBM4 36GB 12-high สำหรับ NVIDIA Vera Rubin ได้เข้าสู่การผลิปริมาณสูงแล้ว โดยมีแบนด์วิดท์ต่อสแตกมากกว่า 2.8TB/s และประสิทธิภาพการใช้พลังงานที่ดีขึ้น สิ่งนี้บ่งชี้ว่า HBM ได้ก้าวจากการเป็น "ผลิตภัณฑ์หน่วยความจำระดับไฮเอนด์" มาเป็นส่วนหนึ่งของแผนงานแพลตฟอร์ม AI แล้ว
การแบ่งงานกันระหว่าง HBM กับหน่วยความจำประเภทอื่นสามารถเข้าใจได้ดังนี้:
| ประเภท | ตำแหน่งที่ตั้ง | จุดแข็ง | ข้อจำกัด | สถานการณ์การใช้ AI |
|---|---|---|---|---|
| HBM | ใกล้กับแพ็กเกจ GPU | แบนด์วิดท์สูงมาก ความหน่วงต่ำ | ต้นทุนสูง อุปทานจำกัด | การฝึกฝน (Training) การอนุมาน (Inference) KV cache |
| Server DRAM | หน่วยความจำ CPU และระบบ | ความจุมากกว่า ใช้งานได้ทั่วไป | แบนด์วิดท์ต่ำกว่า HBM | การจัดตารางงาน การแคช ฐานข้อมูล |
| LPDDR/CXL memory | ชั้นหน่วยความจำขยาย | ประสิทธิภาพพลังงานหรือความสามารถในการขยายตัวที่ดีกว่า | ระบบนิเวศยังอยู่ในช่วงพัฒนา | การขยายการอนุมาน การรวมกลุ่มหน่วยความจำ (Memory pooling) |
| SSD | ที่จัดเก็บข้อมูลภายในหรือเครือข่าย | ความจุมากกว่า ต้นทุนต่ำกว่า | ความหน่วงสูงกว่าหน่วยความจำ | การบันทึก Checkpoint ข้อมูลที่ใช้งานบ่อย |
ความต้องการ HBM ยังส่งผลกระทบแบบย้อนกลับต่อตลาด DRAM ทั่วไปด้วย ในการวิเคราะห์ ความต้องการเซิร์ฟเวอร์ AI TrendForce ระบุว่าผู้ผลิต DRAM ยังคงเปลี่ยนเป้าหมายกำลังการผลิตไปสู่ HBM และการใช้งานเซิร์ฟเวอร์ ในขณะที่ราคาสัญญาของ DRAM และ NAND Flash แบบดั้งเดิมก็ได้รับอิทธิพลจากอุปสงค์และอุปทานที่ตึงตัวเช่นกัน ซึ่งหมายความว่า HBM ไม่ใช่แค่ผลิตภัณฑ์เดี่ยวๆ เท่านั้น แต่ยังเปลี่ยนแปลงการจัดสรรกำลังการผลิตเวเฟอร์ ค่าใช้จ่ายด้านทุน และกลยุทธ์การผูกขาดลูกค้าอีกด้วย
สำหรับนักลงทุนแล้ว การติดตาม HBM ไม่ควรหยุดอยู่แค่คำถามว่า “ราคาปรับขึ้นเท่าไหร่” เนื่องจากยังมีตัวแปรสำคัญหลายอย่างที่ต้องพิจารณา:
สรุป: HBM เป็นหมวดหมู่หน่วยความจำที่เชื่อมโยงกับการประมวลผล GPU ในเซิร์ฟเวอร์ AI โดยตรงที่สุด มันแก้ปัญหาด้านแบนด์วิดท์ ความจุ และประสิทธิภาพการใช้พลังงานบนฝั่ง GPU การฝึกโมเดลขนาดใหญ่ การอนุมานแบบขนาน ปริมาณงานบริบทยาว และ AI แบบเอเจนต์ ล้วนเพิ่มแรงกดดันต่อ HBM แต่คุณค่าของ HBM ไม่ได้มาจาก "อุปสงค์ที่แข็งแกร่ง" เพียงอย่างเดียว แต่ยังมาจากเทคโนโลยีกระบวนการผลิต การบรรจุชิป อัตราผลผลิตที่ดี การรับรองจากลูกค้า และความสัมพันธ์ด้านอุปทานระยะยาว HBM ไม่ได้เข้ามาแทนที่ DRAM ทั่วไปเพียงแค่นั้น แต่มันตั้งอยู่ในชั้นความเร็วสูงที่อยู่ใกล้ GPU มากกว่า เมื่อวิเคราะห์ห่วงโซ่อุปทานของ HBM คุณจำเป็นต้องติดตามแผนที่การพัฒนาแพลตฟอร์ม GPU ความจุ HBM ต่อการ์ด ส่วนแบ่งของซัพพลายเออร์ การเพิ่มกำลังการผลิต และการผูกขาดลูกค้าปลายทาง

DRAM สำหรับเซิร์ฟเวอร์ได้รับแรงหนุนจาก AI เนื่องจากงานฝั่งระบบจำนวนมากที่อยู่นอกเหนือจาก GPU ยังคงต้องใช้ CPU และหน่วยความจำของโฮสต์ HBM รับผิดชอบการคำนวณในพื้นที่ของ GPU แต่การประมวลผลข้อมูลล่วงหน้า การจัดกำหนดการงาน ฐานข้อมูล การค้นหาแบบเวกเตอร์ สแตกโปรโตคอลเครือข่าย เฟรมเวิร์กบริการอนุมาน (inference) การจำลองเสมือน และการจัดการคอนเทนเนอร์ ล้วนต้องพึ่งพา DRAM ของเซิร์ฟเวอร์ทั้งสิ้น ยิ่งการอนุมานด้วย AI แพร่หลายมากขึ้นเท่าไร การกำหนดค่าหน่วยความจำเซิร์ฟเวอร์ทั่วไปก็ยิ่งมีแนวโน้มที่จะถูกยกระดับให้สูงขึ้นมากขึ้นเท่านั้น
ความเข้าใจผิดที่พบบ่อยคือ DRAM ของเซิร์ฟเวอร์อาจมีความสำคัญน้อยลงเนื่องจาก HBM อยู่ใกล้กับ GPU มากขึ้น แต่ความจริงตรงกันข้าม คลัสเตอร์ AI เป็นระบบแบบ heterogenous GPU ไม่สามารถทำงานทุกอย่างได้ด้วยตัวเอง บริการโมเดลต้องการ CPU สำหรับการจัดสรรคำขอ การจัดตาราง token การจัดการแคช การบันทึก log และนโยบายด้านความปลอดภัย ระบบ RAG ยังต้องเรียกใช้ฐานข้อมูลเวกเตอร์และคลังเอกสารขององค์กร การติดตั้ง private cloud เพิ่มคอนเทนเนอร์ การมอนิเตอร์ สิทธิ์การเข้าถึง และการกำกับดูแลข้อมูล งานทั้งหมดเหล่านี้ต้องการหน่วยความจำเซิร์ฟเวอร์ที่มีความจุสูงขึ้น ประสิทธิภาพสูงขึ้น และใช้พลังงานต่ำลง
ในรายงานผลประกอบการไตรมาส 3 ปี 2025 SK hynix ระบุว่ายอดขายที่แข็งแกร่งของ HBM และผลิตภัณฑ์เซิร์ฟเวอร์ประสิทธิภาพสูงสนับสนุนผลการดำเนินงานรายไตรมาส และกล่าวว่าการเจรจาเรื่องอุปทาน HBM สำหรับปีหน้าได้เสร็จสิ้นแล้ว ความคิดเห็นลักษณะนี้แสดงให้เห็นว่าด้านอุปสงค์ฝั่งเซิร์ฟเวอร์ไม่ได้กระจุกตัวอยู่เพียงแค่ HBM เท่านั้น แต่ยังรวมถึง DDR5 ความจุสูง, SSD ระดับองค์กร และพอร์ตโฟลิโอหน่วยความจำสำหรับเซิร์ฟเวอร์ AI อย่างกว้างขวางด้วย
สถานการณ์อุปสงค์หลักสำหรับ DRAM เซิร์ฟเวอร์ ได้แก่:
| สถานการณ์ | บทบาทของ DRAM | การเปลี่ยนแปลงของดีมานด์ |
|---|---|---|
| การเตรียมข้อมูลฝึก AI | การทำความสะอาด แบ่งส่วน และแคชข้อมูลฝึก | ชุดข้อมูลขนาดใหญ่ขึ้นเพิ่มแรงกดดันต่อหน่วยความจำ |
| บริการอินเฟอเรนซ์ออนไลน์ | การจัดตารางคำขอ การจัดกลุ่ม การจัดการบริบท | ความพร้อมกันสูงขึ้นต้องการการกำหนดค่าหน่วยความจำที่สูงขึ้น |
| RAG และฐานข้อมูลเวกเตอร์ | การแคชดัชนี การเร่งความเร็วการค้นหา | การบูรณาการข้อมูลองค์กรเพิ่มความต้องการหน่วยความจำ |
| บริการคลาวด์หลายผู้เช่า | คอนเทนเนอร์ การจำลองเสมือน การแยกส่วน | ต้องการความจุและความเสถียรภาพที่สูงขึ้น |
| การประสานงานระหว่าง CPU-GPU | การเคลื่อนย้ายข้อมูล สแตกโปรโตคอล การจัดการบริการ | แรงกดดันด้านหน่วยความจำฝั่งระบบเพิ่มขึ้น |
CXL, การรวมกลุ่มหน่วยความจำ (memory pooling) และโมดูลความจุสูงขึ้น ก็เป็นสิ่งที่น่าจับตามองเช่นกัน ความสำคัญของ CXL คือสามารถปลดปล่อยการขยายหน่วยความจำให้พ้นจากข้อจำกัดของเมนบอร์ดเซิร์ฟเวอร์เครื่องเดียว ทำให้ศูนย์ข้อมูลสามารถจัดสรรทรัพยากรหน่วยความจำได้อย่างยืดหยุ่นมากขึ้น แม้ว่าจะไม่ได้เข้ามาแทนที่ DRAM แบบดั้งเดิมทันที แต่อาจเปลี่ยนโครงสร้างการจัดซื้อหน่วยความจำเซิร์ฟเวอร์ได้ ปริมาณงานที่ต้องการความเร็วสูงบางส่วนจะยังคงใช้ DRAM ในเครื่องต่อไป ในขณะที่ปริมาณงานด้านการขยายความจุบางส่วนอาจใช้ CXL memory pools หรือโมดูลประเภทใหม่แทน
ตรรกะการลงทุนสำหรับ DRAM เซิร์ฟเวอร์แตกต่างจาก HBM HBM เป็นผลิตภัณฑ์ที่มีด่านเข้าสู่ตลาดสูง ราคาเฉลี่ยต่อหน่วย (ASP) สูง และลูกค้ากระจุกตัว ส่วน DRAM เซิร์ฟเวอร์มีการเปิดรับที่กว้างกว่าและได้รับอิทธิพลร่วมกันจากการอนุมาน AI เซิร์ฟเวอร์เพื่อการใช้งานทั่วไป การใช้จ่ายด้าน IT ขององค์กร และการลงทุนด้านโครงสร้างพื้นฐานคลาวด์ แม้ความยืดหยุ่นของมันอาจไม่รุนแรงเท่า HBM แต่ความยั่งยืนของมันขึ้นอยู่กับว่าการอนุมาน AI จะสามารถแพร่กระจายจากแพลตฟอร์มโมเดลขนาดใหญ่ไม่กี่แห่งไปสู่การใช้งานระดับองค์กรได้จริงหรือไม่
สรุป: DRAM สำหรับเซิร์ฟเวอร์ได้รับแรงหนุนจาก AI เนื่องจากเซิร์ฟเวอร์ AI ไม่ได้ทำงานด้วย GPU เพียงอย่างเดียว การจัดตารางงานฝั่ง CPU การเตรียมข้อมูลล่วงหน้า (data preprocessing) การค้นหาเวกเตอร์ การจัดการแคช เฟรมเวิร์กบริการอนุมาน (inference service frameworks) และการปรับใช้คลาวด์ส่วนตัวขององค์กร ล้วนต้องการหน่วยความจำระบบที่มีขนาดใหญ่ขึ้นและประสิทธิภาพสูงขึ้น HBM ช่วยแก้ปัญหาแบนด์วิดท์ฝั่ง GPU ขณะที่ DRAM สำหรับเซิร์ฟเวอร์รองรับงานฝั่งระบบ ทั้งสองแบ่งหน้าที่กันแทนที่จะเข้ามาแทนที่กัน เมื่อประเมินความต้องการ DRAM สำหรับเซิร์ฟเวอร์ คุณควรมองไปไกลกว่าคลัสเตอร์ฝึกโมเดล (training clusters) และควรติดตามการปรับใช้บริการอนุมาน แอปพลิเคชัน RAG การนำ AI ไปใช้แบบส่วนตัวในองค์กร วงจรการเปลี่ยนใหม่ของเซิร์ฟเวอร์คลาวด์ และสถาปัตยกรรมใหม่อย่างเช่น CXL ด้วย
บทบาทหลักของ SSD สำหรับองค์กรในเซิร์ฟเวอร์ AI คือการจัดการกับการอ่าน/เขียนที่เกิดขึ้นบ่อยครั้ง ข้อมูลร้อน (hot data) การโหลดโมเดล การบันทึกจุดตรวจสอบ (checkpointing) การค้นหาเวกเตอร์ และงานแคชการอนุมานบางส่วน SSD เหล่านี้ไม่ได้อยู่ใกล้ GPU มากเท่ากับ HBM และไม่ได้เน้นไปที่ความจุราคาถูกเหมือน HDD แต่ครองตำแหน่งชั้นที่สำคัญระหว่างความเร็วกับความจุ ยิ่งการอนุมาน AI, RAG และ agentic AI พัฒนามากขึ้นเท่าไหร่ SSD สำหรับองค์กรก็ยิ่งมีความสำคัญมากขึ้นเท่านั้นในเส้นทางการไหลของข้อมูล
ระหว่างการฝึกโมเดล SSD มักถูกใช้เพื่ออ่านชุดข้อมูลตัวอย่างสำหรับการฝึก เขียน checkpoints จัดเก็บผลลัพธ์ระหว่างทาง และสนับสนุนการกู้คืนงาน งานฝึกขนาดใหญ่ทำงานเป็นระยะเวลานาน เมื่อถูกขัดจังหวะ จำเป็นต้องกลับมาทำงานต่อจาก checkpoints ได้อย่างรวดเร็ว หากระบบจัดเก็บข้อมูลเขียนช้าเกินไป อาจส่งผลไม่เพียงแค่การกู้คืน แต่ยังทำให้ความคืบหน้าของการฝึกช้าลงอีกด้วย ระหว่างการอนุมาน (inference) บทบาทของ SSD ขยายตัวเพิ่มขึ้นไปอีก: การโหลดน้ำหนักโมเดล (model weights) ดัชนี embedding ฐานข้อมูลเวกเตอร์ บริบทของผู้ใช้ และการแคชผลลัพธ์การค้นหา ล้วนอาจต้องพึ่งพา NVMe SSD ที่มีความหน่วงต่ำ
ในรายงาน AI to Reshape the Global Technology Landscape TrendForce ระบุว่า QLC SSD กำลังถูกนำมาใช้ในชั้นการจัดเก็บข้อมูล AI แบบ warm และ cold เช่น การทำ model checkpointing และการเก็บถาวรชุดข้อมูล และคาดการณ์ว่า QLC SSD จะครองสัดส่วนราว 30% ของตลาด enterprise SSD ภายในปี 2026 ซึ่งสะท้อนให้เห็นว่าการเติบโตของ enterprise SSD มาไม่เพียงจากผลิตภัณฑ์ TLC ที่เน้นประสิทธิภาพสูงเท่านั้น แต่ยังมาจากผลิตภัณฑ์ QLC ที่เน้นต้นทุนต่อความจุอีกด้วย
แคช KV เป็นอีกหนึ่งด้านที่น่าจับตามอง การอนุมานบริบทยาวและบทสนทนาหลายรอบสามารถทำให้ KV cache เติบโตอย่างรวดเร็ว และ HBM ของ GPU รวมถึง DRAM ของโฮสต์อาจไม่เพียงพอ ในการสังเกตการณ์เกี่ยวกับตลาด SSD สำหรับองค์กร TrendForce ระบุว่าความต้องการจัดซื้อบริการ AI Agent และ CSP ได้ผลักดันรายได้จาก SSD สำหรับองค์กรไปสู่ระดับสูงสุดเป็นประวัติการณ์ และกล่าวว่าต้นทุนและข้อจำกัดด้านความจุของ DRAM กำลังผลักดันตลาดให้รวม SSD ประสิทธิภาพสูงเข้าไว้ในลำดับชั้นของหน่วยความจำ งานวิจัยในวงการวิชาการก็กำลังสำรวจ KV cache ที่อาศัย SSD เช่นกัน ตัวอย่างเช่น Tutti นำ NVMe SSD เข้ามาใช้ในการให้บริการ LLM บริบทยาวเพื่อบรรเทาข้อจำกัดด้านความจุของ HBM และ DRAM
SSD สำหรับองค์กรยังจำเป็นต้องแบ่งเป็นหลายชั้น:
| ประเภท SSD | จุดแข็ง | สถานการณ์ที่เหมาะสมกว่า | หมายเหตุ |
|---|---|---|---|
| SSD TLC ประสิทธิภาพสูง | ความหน่วงต่ำ อายุการใช้งานยาวนาน | ฐานข้อมูลออนไลน์, RAG, ข้อมูลร้อน | ต้นทุนสูงกว่า |
| SSD QLC | ความจุมากขึ้น ต้นทุนต่ำกว่า | การทำ Checkpoint, ชุดข้อมูล, ข้อมูลอุ่น | ควรประเมินความทนทานต่อการเขียน |
| SSD ประเภท SCM / XL-FLASH | ความหน่วงต่ำกว่า | KV cache, GPU direct storage | ระบบนิเวศและต้นทุนยังอยู่ในระหว่างพัฒนา |
| SSD สำหรับผู้บริโภค | ต้นทุนต่ำ | งานภายในเครื่องที่ไม่สำคัญมาก | ไม่เหมาะกับงานขององค์กรที่หนักและเข้มข้น |
เมื่อวิเคราะห์ความต้องการ SSD ระดับองค์กร คุณจำเป็นต้องแยกแยะระหว่าง "ความต้องการที่ขับเคลื่อนด้วยประสิทธิภาพ" กับ "ความต้องการที่ขับเคลื่อนด้วยความจุ" ความต้องการที่ขับเคลื่อนด้วยประสิทธิภาพมาจากการอนุมาน (inference) ที่มีความหน่วงต่ำ ฐานข้อมูลเวกเตอร์ และแคช (caching) ส่วนความต้องการที่ขับเคลื่อนด้วยความจุมาจากชุดข้อมูลฝึก (training sets) การบันทึกจุดตรวจ (checkpointing) สื่อหลายรูปแบบ และทะเลสาบข้อมูล (data lakes) ขององค์กร ความต้องการทั้งสองประเภทล้วนถูกขับเคลื่อนด้วย AI แต่สอดคล้องกับผลิตภัณฑ์ อัตรากำไร และผู้ผลิตที่แตกต่างกัน
สรุป: SSD สำหรับองค์กรเป็นหนึ่งในชั้นที่ถูกประเมินต่ำที่สุดในระบบจัดเก็บข้อมูล AI โดยไม่ผูกติดกับ GPU โดยตรงเท่ากับ HBM และเศรษฐศาสตร์ด้านความจุก็ไม่ชัดเจนเท่ากับ HDD แต่พวกมันทำหน้าที่จัดการข้อมูลที่ถูกเรียกใช้บ่อย (hot data), การบันทึกจุดเช็คพอยต์ (checkpointing), การโหลดโมเดล, การค้นหาข้อมูลแบบ RAG และงานบางส่วนของ KV cache เมื่อ AI เปลี่ยนจากการฝึกฝน (training) ไปสู่การอนุมาน (inference) ในระดับใหญ่ SSD กำลังเปลี่ยนบทบาทจาก "อุปกรณ์จัดเก็บข้อมูล" มาเป็นส่วนหนึ่งของเส้นทางการให้บริการอนุมาน การวิเคราะห์ควรแยกแยะระหว่าง TLC, QLC, SCM และ nearline SSD เพราะแต่ละประเภทตอบโจทย์ความต้องการที่แตกต่างกัน ได้แก่ ความหน่วงต่ำ ความทนทานสูง ต้นทุนความจุ และการขยายลำดับชั้นหน่วยความจำแบบใหม่
HDD ยังคงเป็นรากฐานด้านความจุของศูนย์ข้อมูล AI เนื่องจากข้อมูลไม่ใช่ทั้งหมดจำเป็นต้องจัดเก็บใน SSD หรือหน่วยความจำ ข้อมูลการฝึกดิบ รูปภาพ วิดีโอ เสียง บันทึกการทำงาน (logs) ข้อมูลสำรอง บันทึกการปฏิบัติตามข้อกำหนด และเวอร์ชันประวัติศาสตร์ มักจัดอยู่ในประเภทข้อมูลอุ่น (warm data) หรือข้อมูลเย็น (cold data) ซึ่งให้ความสำคัญกับต้นทุนต่อเทราไบต์ ($/TB) ความน่าเชื่อถือ และต้นทุนการใช้งานในวงกว้างมากกว่า ยิ่ง AI สร้างข้อมูลมากเท่าใด คุณค่าของ HDD ในฐานะความจุต้นทุนต่ำก็ยิ่งชัดเจนมากขึ้นเท่านั้น
ยุค AI ไม่ได้ทำให้ HDD หายไป แต่กลับทำให้บทบาทของมันชัดเจนยิ่งขึ้น SSD รับผิดชอบข้อมูลที่มีการเข้าถึงบ่อยและงานที่ต้องการ latency ต่ำ ส่วน HDD รับผิดชอบทะเลสาบข้อมูลขนาดมหาศาลและการจัดเก็บระยะยาว โดยเฉพาะอย่างยิ่งกับโมเดลมัลติโมดัลและการบูรณาการข้อมูลส่วนตัวขององค์กร ซึ่งสร้างข้อมูลที่ไม่มีโครงสร้างจำนวนมาก หากข้อมูลทั้งหมดถูกจัดเก็บบน SSD ต้นทุน การใช้พลังงาน และความหนาแน่นของแร็คจะกลายเป็นข้อจำกัดสำคัญ
ของ Western Digital เรื่อง The Long-Term Case for HDD Storage เน้นย้ำว่าศูนย์ข้อมูลจะพิจารณา TCO ต้นทุนการจัดซื้อ การใช้พลังงาน ความหนาแน่น ประสิทธิภาพ และวงจรชีวิตในการเลือกใช้พื้นที่จัดเก็บข้อมูล พร้อมทั้งอ้างถึงมุมมองของ IDC ที่ว่า SSD มีราคาต่อ $/TB สูงกว่า HDD อยู่ 5–10 เท่า ช่องว่างดังกล่าวอธิบายได้ว่าเหตุใดศูนย์ข้อมูลขนาดใหญ่ (hyperscale) จึงอาจจัดซื้อ SSD จำนวนมาก ในขณะที่ยังคงใช้ HDD ในชั้นความจุ (capacity layer) ต่อไป
Seagate ยังได้เชื่อมโยงฮาร์ดดิสก์ความจุสูงเข้ากับศูนย์ข้อมูล AI, อำนาจอธิปไตยด้านข้อมูล และการลงทุนด้านศูนย์ข้อมูลแบบไฮบริด ในการประกาศ ฮาร์ดดิสก์ 30TB ฮาร์ดดิสก์แบบ nearline ความจุสูง, HAMR และ UltraSMR ล้วนมุ่งหมายไปยังเป้าหมายเดียวกัน นั่นคือการเพิ่มความหนาแน่นของความจุที่ใช้งานได้จริง และลดต้นทุนการจัดเก็บข้อมูลในระยะยาวภายใต้ข้อจำกัดด้านแร็ค พลังงาน และการบำรุงรักษาที่เท่าเดิม
การแบ่งงานกันระหว่าง SSD และ HDD สามารถเข้าใจได้ดังนี้:
| มิติ | Enterprise SSD | Enterprise HDD |
|---|---|---|
| จุดแข็งหลัก | ความหน่วงต่ำ, IOPS สูง | ต้นทุนต่ำต่อ $/TB, ความจุสูง |
| ข้อมูลหลัก | ข้อมูลร้อน, ดัชนี, แคช | Data lakes, ข้อมูลสำรอง, คลังเก็บ |
| สถานการณ์ AI | Inference, RAG, checkpointing | ชุดข้อมูลฝึกฝน, ข้อมูลมัลติโมเดีย |
| ความไวต่อต้นทุน | ปานกลางถึงสูง | สูงมาก |
| ความสัมพันธ์ในการทดแทน | ทดแทนบางสถานการณ์ HDD ที่ใช้งานความถี่สูง | ยังคงบทบาทฐานความจุขนาดใหญ่ |
ความเสี่ยงสำหรับ HDD ก็ควรจะชัดเจนเช่นกัน เมื่อความจุของ QLC SSD เพิ่มขึ้น มันอาจเข้ามาแทนที่บางสถานการณ์การใช้งาน nearline HDD หากศูนย์ข้อมูล AI ให้ความสำคัญกับการใช้พลังงานและความเร็วในการอ่านมากขึ้น SSD อาจเข้ามาแทนที่ส่วนหนึ่งของชั้นข้อมูล warm data ได้ แต่ตราบใดที่ AI ยังคงสร้างข้อมูลแบบ unstructured จำนวนมหาศาลต่อไป HDD ก็ยังคงมีความคุ้มค่าทางเศรษฐศาสตร์ที่เข้ามาแทนที่ได้ยาก
สรุป: คุณค่าของ HDD ในศูนย์ข้อมูล AI ไม่ได้อยู่ที่ความเร็ว แต่อยู่ที่เศรษฐศาสตร์ของความจุขนาดใหญ่ การฝึกฝน AI, ข้อมูลมัลติโมเดีย, ทะเลสาบข้อมูลองค์กร, ล็อก, การสำรองข้อมูล และคลังเก็บข้อมูลเพื่อการปฏิบัติตามข้อกำหนด ล้วนสร้างข้อมูลที่ไม่จำเป็นต้องเข้าถึงแบบเรียลไทม์ แต่ต้องจัดเก็บไว้เป็นระยะเวลานาน SSD จะขยายตัวในกลุ่มข้อมูลร้อนและบางสถานการณ์ของข้อมูลอุ่น และ SSD แบบ QLC อาจกัดกินกรณีการใช้งานของ HDD บางส่วน แต่ HDD ยังคงทำหน้าที่เป็นรากฐานด้านความจุ เมื่อวิเคราะห์ห่วงโซ่อุปทานของ HDD ควรเน้นที่คำสั่งซื้อจากลูกค้า hyperscale, ผลิตภัณฑ์ nearline ความจุสูง, ความคืบหน้าของ HAMR, สัญญาจัดซื้อระยะยาว, ระดับสินค้าคงคลัง และต้นทุนต่อหน่วยความจุ
ในการประเมินความต้องการพื้นที่จัดเก็บข้อมูลสำหรับ AI คุณจำเป็นต้องแยกความแตกต่างระหว่างการเติบโตของข้อมูลในระยะยาวกับวงจรราคาในระยะสั้น ในระยะยาว ข้อมูลสำหรับการฝึกฝนโมเดล เนื้อหามัลติโมเดีย แคชสำหรับการอนุมาน (inference cache) ข้อมูลส่วนตัวขององค์กร และอธิปไตยทางข้อมูล ล้วนเพิ่มความต้องการความจุในการจัดเก็บข้อมูล ในระยะสั้น ราคาพื้นที่จัดเก็บข้อมูลอาจได้รับผลกระทบจากการเปลี่ยนแปลงของความจุ การผูกขาดลูกค้าในช่วงแรก การปรับสต็อกสินค้าคงคลัง และวงจรการลงทุนด้านทุน ความต้องการที่แท้จริงมีอยู่จริง แต่นั่นไม่ได้หมายความว่าราคาและราคาหุ้นจะเพิ่มขึ้นอย่างเป็นเส้นตรง
อุตสาหกรรมหน่วยความจำจัดเก็บข้อมูลมีลักษณะเป็นวัฏจักรโดยธรรมชาติ ทั้ง DRAM, NAND และ HDD ล้วนเคยผ่านวัฏจักร “ราคาสูงขึ้น—ขยายกำลังการผลิต—สต๊อกสินค้าสะสม—ราคาลดลง” AI เปลี่ยนโครงสร้างความต้องการและความแข็งแกร่งของการผูกขาดลูกค้า แต่ไม่ได้ขจัดวัฏจักรออกไป เมื่อรายงานเรื่องการใช้จ่ายเพื่อการลงทุนที่เพิ่มขึ้นของบรรดายักษ์ใหญ่ด้านเทคโนโลยีสำหรับศูนย์ข้อมูลและโครงสร้างพื้นฐาน AI Reuters ระบุว่า บริษัทจัดเก็บข้อมูล ได้รับประโยชน์จากความต้องการข้อมูลด้าน AI และ Western Digital และ Seagate ต่างเห็นคำสั่งซื้อและความคาดหวังของตลาดที่ดีขึ้น แต่หากการลงทุนของภาคคลาวด์ชะลอตัวหรือลูกค้ากักตุนสินค้าเร็วเกินไป การปรับตัวลดสต๊อกสินค้าอาจยังคงตามมา
คุณสามารถติดตามความต้องการหน่วยความจำจัดเก็บข้อมูลด้าน AI ได้โดยใช้รายการตรวจสอบต่อไปนี้:
| พื้นที่สังเกตการณ์ | ตัวชี้วัดสำคัญ | หมวดหมู่ที่เกี่ยวข้อง |
|---|---|---|
| Capex คลาวด์ | ศูนย์ข้อมูล, คลัสเตอร์ GPU, ระบบขนาดแร็ก | HBM, DRAM, SSD, HDD |
| โรดแมปแพลตฟอร์ม GPU | ความจุ HBM ต่อ GPU, แบนด์วิดท์, จังหวะการส่งมอบ | HBM |
| การติดตั้งงาน Inference | บริบทยาว, การทำงานพร้อมกัน, การประยุกต์ใช้ RAG | DRAM, SSD |
| AI องค์กร | การบูรณาการข้อมูลส่วนตัว, การติดตั้งในท้องถิ่น, การจัดเก็บตามข้อกำหนด | SSD, HDD |
| ราคาอุปกรณ์จัดเก็บข้อมูล | ราคาสัญญา DRAM, NAND, enterprise SSD | DRAM, SSD |
| คำสั่งซื้อ HDD | Nearline HDD, สัญญาจัดซื้อระยะยาว | HDD |
| ระดับสินค้าคงคลัง | สินค้าคงคลังของลูกค้า ช่องทางจำหน่าย และผู้จัดจำหน่าย | ทุกหมวดหมู่ |
มุมมองด้านต้นทุนการซื้อขายก็เป็นสิ่งสำคัญเช่นกัน หากคุณติดตามหุ้นห่วงโซ่อุปทาน AI เช่น บริษัทหน่วยความจำ ฮาร์ดไดรฟ์ เครื่องจักรเซมิคอนดักเตอร์ เซิร์ฟเวอร์ และศูนย์ข้อมูล คุณจำเป็นต้องศึกษาไม่เพียงแค่ผลประกอบการทางการเงินและคำสั่งซื้อ แต่ยังรวมถึงต้นทุนการซื้อขายจริงด้วย ค่าธรรมเนียมการซื้อขายหุ้นสหรัฐฯ มักรวมถึงมากกว่าค่าคอมมิชชัน โดยอาจรวมถึงค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมตัวแทนภายนอก ค่าธรรมเนียมกิจกรรมการซื้อขาย และค่าธรรมเนียมอื่น ๆ Biya ค่าธรรมเนียมซื้อขายหุ้นสหรัฐฯ ระบุว่า ค่าคอมมิชชันการซื้อขายหุ้นสหรัฐฯ คือ $0 ส่วนค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมตัวแทนภายนอก และค่าธรรมเนียมอื่น ๆ ขึ้นอยู่กับศูนย์ค่าธรรมเนียมและหน้าคำสั่งซื้อความพร้อมใช้งานของบริการที่เกี่ยวข้องขึ้นอยู่กับที่ตั้งของผู้ใช้ ผลการตรวจสอบยืนยันตัวตน กฎของแพลตฟอร์ม รวมถึงกฎหมายและข้อบังคับที่บังคับใช้ ข้อมูลตลาดสาธารณะและโครงสร้างค่าธรรมเนียมไม่ถือเป็นคำแนะนำในการลงทุน
ปัจจัยความเสี่ยงก็มีความสำคัญไม่แพ้กัน หากการลงทุนด้านสินทรัพย์ถาวร (capex) ของ AI ถูกผลักดันไปข้างหน้าอย่างรุนแรงเกินไป ผู้ผลิตอุปกรณ์จัดเก็บข้อมูลอาจได้รับผลประกอบการระยะสั้นที่แข็งแกร่ง แต่อาจเผชิญกับคำสั่งซื้อที่ชะลอตัวลงในภายหลัง หากกำลังการผลิต HBM ขยายตัวเร็วกว่าความต้องการ ความยืดหยุ่นด้านราคาอาจอ่อนแอลง SSD แบบ QLC อาจเข้ามาแทนที่บางสถานการณ์การใช้งาน HDD CXL และ memory pooling อาจเปลี่ยนโครงสร้างการจัดหา DRAM สำหรับเซิร์ฟเวอร์ ข้อตกลงระยะยาวกับลูกค้าสามารถลดความผันผวนได้ แต่อาจจำกัดศักยภาพการเติบโตของราคาในระยะต่อไปด้วย
สรุป: ความต้องการพื้นที่จัดเก็บข้อมูล AI เป็นทั้งแนวโน้มระยะยาวและวงจรระยะสั้น แนวโน้มระยะยาวมาจากขนาดของข้อมูล การใช้งาน inference เนื้อหาหลายรูปแบบ (multimodal) AI ระดับองค์กร และอธิปไตยทางข้อมูล ส่วนวงจรระยะสั้นมาจากการจัดสรรกำลังการผลิต จังหวะการตั้งราคา ระดับสินค้าคงคลัง การผูกขาดลูกค้า และความผันผวนของการลงทุนด้านทุน (CAPEX) สำหรับนักลงทุน ประเด็นที่สำคัญที่สุดคืออย่าเทียบเคียง "การเติบโตของความต้องการ" กับ "บริษัทพื้นที่จัดเก็บข้อมูลทุกแห่งจะได้รับประโยชน์ต่อเนื่อง" บริษัทต่าง ๆ มีการสัมผัส (exposure) ที่แตกต่างกันต่อ HBM, DRAM, NAND, SSD ระดับองค์กร, HDD และอุปกรณ์ อีกทั้งความยืดหยุ่นของกำไร ระดับการประเมินมูลค่า และความเสี่ยงจากวงจรก็แตกต่างกันด้วย วิธีวิเคราะห์ที่เชื่อถือได้มากกว่าคือการติดตามหมวดหมู่ผลิตภัณฑ์ ลูกค้า กำลังการผลิต คำสั่งซื้อ และราคาแยกกันทีละส่วน
หากคุณติดตามห่วงโซ่อุปทานของเซิร์ฟเวอร์ AI การจัดเก็บข้อมูลควรถูกวางไว้ภายในกรอบการสังเกตที่กว้างขึ้น ในส่วนต้นน้ำ คุณสามารถติดตาม HBM, DRAM, NAND, HDD และการบรรจุขั้นสูง ในส่วนกลางน้ำ คุณสามารถดูเซิร์ฟเวอร์ สวิตช์ ระบบระบายความร้อนแบบใช้ของเหลว ระบบพลังงาน และการก่อสร้างศูนย์ข้อมูล ในส่วนปลายน้ำ คุณสามารถติดตามการลงทุนด้านเมืองคลาวด์ การนำ AI ไปใช้ในองค์กร และการใช้งานสำหรับการอนุมาน (inference) นอกจากนี้ คุณยังสามารถใช้ ค้นหาข้อมูลหุ้นสหรัฐฯ เพื่อติดตามราคาหลักทรัพย์ของบริษัทที่เกี่ยวข้อง วันที่ประกาศผลประกอบการ และข้อมูลพื้นฐาน รวมถึงใช้ Biya เพื่อบันทึกรายการธุรกรรมสินทรัพย์หลายประเภท ต้นทุนการแลกเปลี่ยนเงินตรา และรายละเอียดการออกบิล หากบริการนี้พร้อมใช้งานในภูมิภาคของคุณ คุณควรตรวจสอบกฎของแพลตฟอร์ม ค่าธรรมเนียมคำสั่งซื้อ และข้อกำหนดด้านกำกับดูแลในท้องถิ่นก่อนการใช้งานห่วงโซ่อุปทานของอุปกรณ์จัดเก็บข้อมูลอาจผันผวนได้ และการตัดสินใจซื้อขายใด ๆ ควรอ้างอิงจากการตัดสินใจด้วยตนเองและระดับความเสี่ยงที่ยอมรับได้ส่วนบุคคล
เซิร์ฟเวอร์ AI ต้องใช้ทั้ง HBM และ server DRAM เพราะทั้งสองทำหน้าที่ในชั้นการคำนวณที่แตกต่างกัน HBM ติดตั้งอยู่ใกล้กับ GPU และรองรับการเข้าถึงความเร็วสูงสำหรับน้ำหนักโมเดล (model weights), ค่าการกระตุ้น (activations) และ KV cache ส่วน server DRAM ติดตั้งอยู่ใกล้กับ CPU และรองรับการจัดตารางงาน, การแคช, ฐานข้อมูล, เฟรมเวิร์กบริการอนุมาน (inference service frameworks) และการจัดการระบบ ทั้งสองเสริมกันและกัน มิใช่ทดแทนกัน
SSD ระดับองค์กรสำหรับงาน AI inference ส่วนใหญ่รองรับการโหลดโมเดล การอ่านข้อมูลร้อน (hot data) การค้นหาเวกเตอร์ การเข้าถึงข้อมูล RAG การบันทึก checkpoint และสถานการณ์ KV cache บางส่วน ความหน่วงต่ำ IOPS สูง และประสิทธิภาพการเขียนที่เสถียรสามารถส่งผลต่อคุณภาพของบริการ inference แต่การกำหนดค่าที่เหมาะสมนั้นขึ้นอยู่กับขนาดของโมเดล จำนวน concurrency ความยาวของ context และสถาปัตยกรรมของระบบ
HDD ยังไม่ถูกแทนที่ด้วย SSD อย่างสมบูรณ์ เพราะศูนย์ข้อมูล AI ยังคงต้องการโครงสร้างพื้นฐานด้านการจัดเก็บข้อมูลที่ต้นทุนต่ำและความจุสูง SSD เหมาะสำหรับข้อมูลร้อนและงานที่ต้องการความหน่วงต่ำ ในขณะที่ HDD เหมาะสำหรับ data lake สื่อการฝึกอบรม บันทึกการทำงาน (logs) การสำรองข้อมูล และคลังเก็บถาวร ในสถาปัตยกรรมการจัดเก็บข้อมูลแบบหลายชั้น ทั้งสองประเภทนี้เป็นสิ่งเสริมซึ่งกันและกัน มิใช่เป็นสิ่งที่ใช้แทนที่กันได้อย่างแท้จริง
QLC SSDs เหมาะสำหรับสถานการณ์ศูนย์ข้อมูล AI ที่ให้ความสำคัญกับความจุและมีความถี่ในการเข้าถึงระดับปานกลาง เช่น การบันทึกจุดตรวจของโมเดล (model checkpointing) การเก็บถาวรชุดข้อมูล ข้อมูลอุ่น (warm data) การจัดเก็บแบบออบเจ็กต์บางส่วน และชั้นข้อมูลเกือบออนไลน์ (nearline data) ส่วนงานที่ต้องการการเขียนสูง ความทนทานสูง และความหน่วงต่ำ ยังคงต้องมีการประเมิน TLC SSDs, SCM SSDs หรือตัวเลือกระดับองค์กรอื่น ๆ
นักลงทุนสามารถติดตามงบลงทุนของคลาวด์ ยอดจัดส่งเซิร์ฟเวอร์ AI ข้อตกลงจัดหา HBM ราคาสัญญา DRAM/NAND รายได้จาก SSD สำหรับองค์กร คำสั่งซื้อ HDD ความจุสูง และระดับสินค้าคงคลัง พาดหัวข่าวการขึ้นราคาเพียงเรื่องเดียวไม่เพียงพอต่อการตัดสินแนวโน้มระยะยาว ควรวิเคราะห์ผลประกอบการทางการเงิน กำลังการผลิต ส่วนผสมของลูกค้า และความเสี่ยงด้านมูลค่าหลักทรัพย์เข้าด้วยกัน
การเติบโตของความต้องการพื้นที่จัดเก็บข้อมูล AI ไม่จำเป็นต้องให้ประโยชน์แก่บริษัทพื้นที่จัดเก็บข้อมูลทุกแห่ง บริษัทต่างๆ มีการสัมผัสที่แตกต่างกันต่อ HBM, DRAM สำหรับเซิร์ฟเวอร์, NAND, SSD สำหรับองค์กร, HDD, ตัวควบคุม และอุปกรณ์ ความยืดหยุ่นของกำไรก็แตกต่างกันเช่นกัน ความเข้มข้นของลูกค้า การขยายกำลังการผลิต การควบคุมต้นทุน สถานะสินค้าคงคลัง และมูลค่าหลักทรัพย์ในปัจจุบัน ล้วนต้องได้รับการพิจารณา
*บทความนี้จัดทำขึ้นเพื่อวัตถุประสงค์ในการให้ข้อมูลทั่วไปเท่านั้น และไม่ถือเป็นคำแนะนำทางกฎหมาย ภาษี หรือคำแนะนำจากผู้เชี่ยวชาญอื่น ๆ จาก BiyaPay หรือบริษัทย่อยและบริษัทในเครือ และไม่ได้มีเจตนาเพื่อทดแทนการขอคำแนะนำจากที่ปรึกษาทางการเงินหรือผู้เชี่ยวชาญอื่นใด
เราไม่ให้คำรับรองหรือการรับประกันใด ๆ ไม่ว่าโดยชัดแจ้งหรือโดยนัย เกี่ยวกับความถูกต้อง ความครบถ้วน หรือความทันเวลาของเนื้อหาในสิ่งพิมพ์ฉบับนี้

