SSD และ HDD ควรทำงานร่วมกันอย่างไรในศูนย์ข้อมูล AI? เปรียบเทียบด้านประสิทธิภาพ ความจุ ต้นทุน และข้อมูลร้อนกับข้อมูลเย็น

ศูนย์ข้อมูล AI ไม่ได้เลือกระหว่าง SSD กับ HDD เพียงอย่างใดอย่างหนึ่งเท่านั้น แต่จัดระดับคลังข้อมูลตามอุณหภูมิของข้อมูล ความถี่ในการเข้าถึง ความต้องการด้าน latency และต้นทุนต่อหน่วยความจุ SSD รองรับการทำงานที่ต้องการ throughput สูง latency ต่ำ และการเข้าถึงพร้อมกันจำนวนมาก จึงเหมาะสำหรับ pipeline ข้อมูลการฝึกโมเดล cache สำหรับ inference, vector search และ checkpoints ส่วน HDD รองรับความจุขนาดใหญ่ การเก็บรักษาระยะยาว และการเข้าถึงที่ไม่บ่อยนัก จึงเหมาะสำหรับ data lake, ชุดข้อมูลประวัติศาสตร์, ไฟล์ log, การสำรองข้อมูล และคลังเก็บถาวร เมื่อคุณประเมินสถาปัตยกรรมการจัดเก็บข้อมูลสำหรับ AI ควรพิจารณาด้านประสิทธิภาพ ความจุ TCO การใช้พลังงาน เวลาในการกู้คืน และวงจรชีวิตของข้อมูลทั้งหมด แทนที่จะตัดสินจากความเร็วของไดรฟ์หรือต้นทุนต่อเทระไบต์เพียงอย่างเดียว

สรุปประเด็นสำคัญ

• SSD เหมาะสำหรับข้อมูลที่ใช้งานหนัก (hot data) I/O ที่มีความหน่วงต่ำ การป้อนข้อมูลให้ GPU ดัชนีเวกเตอร์ และแคชสำหรับการอนุมาน (inference caches)
• HDD เหมาะสำหรับทะเลสาบข้อมูลขนาดใหญ่ ข้อมูลอุ่น/เย็น การเก็บรักษาระยะยาว และการเข้าถึงที่มีความถี่ต่ำ
• คอขวดด้านที่เก็บข้อมูลของ AI สามารถลดอัตราการใช้งาน GPU ในขณะที่ NVMe และ GDS สามารถลดภาระในการย้ายข้อมูลได้
• สถาปัตยกรรมแบบ all-flash ให้ประสิทธิภาพที่แข็งแกร่งกว่า แต่การเก็บข้อมูลเย็นทั้งหมดไว้บน SSD อาจไม่คุ้มค่าทางเศรษฐกิจ
• การแบ่งชั้นข้อมูลร้อน/เย็นขึ้นอยู่กับความถี่ในการเข้าถึง เวลาในการกู้คืน มูลค่าทางธุรกิจ และข้อจำกัดด้านต้นทุน
• เพื่อทำความเข้าใจห่วงโซ่อุปทานของอุปกรณ์จัดเก็บข้อมูล ควรติดตาม SSD ระดับองค์กร HDD แบบ nearline การลงทุนด้านทุนของคลาวด์ และวัฏจักรราคา

เหตุใดศูนย์ข้อมูล AI จึงมุ่งเน้นเพียง GPU เพียงอย่างเดียวไม่ได้

ประเด็นสำคัญในศูนย์ข้อมูล AI ไม่ได้ง่ายแค่ “ยิ่งมี GPU มากเท่าไหร่ยิ่งดี” GPU เครือข่าย หน่วยความจำ และที่เก็บข้อมูลต้องทำงานร่วมกันเป็นท่อส่งข้อมูลที่ต่อเนื่องเดียวกัน หากข้อมูลการฝึกฝน น้ำหนักโมเดล เช็คพอยต์ หรือแคชการอนุมาน (inference) ไม่สามารถเข้าถึงโหนดคำนวณได้เร็วพอ GPU อาจต้องรอ I/O และความสามารถในการคำนวณที่มีราคาแพงจะถูกทำให้ช้าลงเนื่องจากคอขวดด้านที่เก็บข้อมูล ในแง่นั้น การแบ่งหน้าที่ระหว่าง SSD และ HDD ชัดเจน: SSD ช่วยปกป้องเส้นทางข้อมูลร้อน (hot path) ที่ไวต่อประสิทธิภาพ ในขณะที่ HDD ให้รากฐานด้านความจุ IBM อธิบายว่า ศูนย์ข้อมูล AI คือโครงสร้างพื้นฐานเฉพาะทางสำหรับการฝึกฝน การปรับใช้ และการส่งมอบ AI ซึ่งการคำนวณขั้นสูง เครือข่าย ที่เก็บข้อมูล พลังงาน และระบบระบายความร้อนร่วมกันกำหนดประสิทธิภาพของเวิร์กโหลด

ปริมาณงาน AI สร้างแรงกดดันต่อระบบจัดเก็บข้อมูลเพิ่มขึ้น เนื่องจากประเภทข้อมูลของมันมีความซับซ้อนมากกว่า ระบบธุรกิจแบบดั้งเดิมอาจประมวลผลเป็นหลักเพียงบันทึกธุรกรรม ไฟล์ผู้ใช้ หรือ log แต่ศูนย์ข้อมูล AI จำเป็นต้องจัดการกับข้อความ รูปภาพ เสียง วิดีโอ โค้ด ข้อมูลเซนเซอร์ ดัชนีเวกเตอร์ น้ำหนักโมเดล ผลลัพธ์ระหว่างการฝึกฝน และ log การอนุมาน ข้อมูลบางส่วนถูกเข้าถึงบ่อยครั้ง ในขณะที่ส่วนใหญ่ถูกจัดเก็บไว้เป็นระยะเวลานาน การจัดเก็บทุกอย่างลงบน SSD อาจช่วยปรับปรุงประสิทธิภาพ แต่ก็สามารถสร้างแรงกดดันด้านต้นทุนและความจุอย่างมาก การจัดเก็บทุกอย่างลงบน HDD สามารถลดต้นทุนความจุได้ แต่อาจทำให้เส้นทางแบบ hot path ของการฝึกฝนและการอนุมานช้าลง

คุณสามารถเริ่มต้นด้วยการแบ่งแยกความต้องการด้านการจัดเก็บข้อมูลของ AI ตามวงจรชีวิตของข้อมูล:

การจัดชั้นพื้นที่จัดเก็บข้อมูลสำหรับ AI ยังต้องแยกแยะระหว่างคอขวดด้านการฝึกฝน (training) และคอขวดด้านการอนุมาน (inference) ด้วย ปริมาณงานด้านการฝึกฝนให้ความสำคัญกับ throughput ที่ต่อเนื่อง การอ่านแบบขนาน การเขียน checkpoint และการประมวลผลข้อมูลล่วงหน้ามากกว่า ส่วนปริมาณงานด้านการอนุมานให้ความสำคัญกับ latency ที่ต่ำ คำขอพร้อมกันจำนวนมาก อัตราการเข้าถึงแคช ความเร็วในการโหลดโมเดล และการค้นหาเวกเตอร์ที่เสถียรมากกว่า GPUDirect Storage ของ NVIDIA มีความสำคัญเพราะมุ่งสร้างเส้นทางการไหลของข้อมูลที่ตรงกว่าระหว่างพื้นที่จัดเก็บแบบ NVMe/NVMe-oF ทั้งในเครื่องและระยะไกลกับหน่วยความจำ GPU ซึ่งช่วยลดขั้นตอน staging ที่ไม่จำเป็นผ่าน CPU และหน่วยความจำระบบในเส้นทาง I/O แบบดั้งเดิม

ในมุมมองเชิงสถาปัตยกรรม SSD และ HDD ไม่ได้ทดแทนกัน แต่ทำงานอยู่คนละเลเยอร์กัน ข้อมูลร้อนใช้ SSD เพื่อลดเวลารอ ข้อมูลอุ่นใช้แคชและนโยบายวงจรชีวิตข้อมูลเพื่อสร้างสมดุลระหว่างประสิทธิภาพและต้นทุน ส่วนข้อมูลเย็นใช้ HDD หรือ object storage เพื่อลดต้นทุนความจุในระยะยาว หากคุณมองเฉพาะจำนวน GPU คุณอาจมองข้ามว่าท่อประมวลผลข้อมูลสามารถป้อนข้อมูลให้ GPU ทำงานเต็มที่ได้หรือไม่ หากคุณมองเฉพาะความเร็วของ SSD คุณอาจมองข้ามต้นทุนในการจัดเก็บชุดข้อมูลประวัติศาสตร์จำนวนมหาศาล และหากคุณมองเฉพาะความจุของ HDD คุณอาจประเมินความต้องการด้านเวลาตอบสนองของเส้นทางข้อมูลร้อนในการฝึกและการอนุมานต่ำเกินไป

สรุป: การแบ่งงานกันระหว่าง SSD และ HDD ในศูนย์ข้อมูล AI ไม่ได้เป็นเรื่องของว่าสื่อบันทึกชนิดใดล้ำหน้ากว่ากัน แต่เป็นเรื่องของว่าสื่อบันทึกแต่ละชนิดเหมาะสมที่สุดกับชั้นข้อมูลใด SSD เหมาะสำหรับข้อมูลร้อนที่ส่งผลโดยตรงต่อความเร็วในการฝึกโมเดล เวลาตอบสนองของการอนุมาน และอัตราการใช้งาน GPU ส่วน HDD เหมาะสำหรับการเก็บรักษาระยะยาว การเข้าถึงความถี่ต่ำ และกลุ่มความจุขนาดใหญ่ สถาปัตยกรรมที่มีประสิทธิภาพมักเป็นแบบผสมผสาน: SSD รับผิดชอบ I/O ฝั่งหน้าที่ต้องการประสิทธิภาพสูง นโยบายแคชและวงจรชีวิตข้อมูลช่วยย้ายข้อมูลระหว่างชั้นต่างๆ และ HDD รองรับทะเลสาบข้อมูลขนาดใหญ่และคลังเก็บถาวร แนวทางนี้ช่วยหลีกเลี่ยงช่วงเวลาที่ GPU ว่างงาน ในขณะเดียวกันก็ป้องกันไม่ให้ข้อมูลที่มีคุณค่าต่ำและถูกเข้าถึงน้อยครั้งครอบพื้นที่ในสื่อประสิทธิภาพสูงที่มีราคาแพง

SSD มีบทบาทอย่างไรในศูนย์ข้อมูล AI? ประสิทธิภาพสูง ความหน่วงต่ำ และการป้อนข้อมูลให้ GPU

SSD ทำหน้าที่จัดการข้อมูลร้อน (hot data) และเส้นทางที่ไวต่อประสิทธิภาพในศูนย์ข้อมูล AI เป็นหลัก คุณสามารถมองว่า SSD เป็นชั้นแคชความเร็วสูงและพื้นที่ทำงานเพื่อประสิทธิภาพที่อยู่ข้างๆ คลัสเตอร์ GPU การดึงข้อมูลฝึกฝนล่วงหน้า (training data prefetching), จุดตรวจสอบที่ใช้งานอยู่ (active checkpoints), แคชการอนุมาน (inference caches), ฐานข้อมูลเวกเตอร์, ดัชนีการค้นหาแบบ RAG และการโหลดน้ำหนักโมเดล (model weight loading) ล้วนเหมาะสมกับ SSD มากกว่า โดยเฉพาะ SSD แบบ NVMe คุณค่าของ SSD ไม่ได้มีเพียง "ความเร็วในการอ่าน/เขียนที่สูงขึ้น" เท่านั้น แต่ความหน่วงที่ต่ำกว่า, IOPS ที่สูงกว่า, ความสามารถในการทำงานพร้อมกันที่แข็งแกร่งกว่า และเวลาตอบสนองที่เสถียรกว่า ยังส่งผลโดยตรงต่อการที่ GPU จะถูกใช้งานเต็มประสิทธิภาพได้หรือไม่อีกด้วย

ในสถานการณ์การฝึกโมเดล SSD มักต้องรองรับสตรีมข้อมูลที่มีความเร็วสูง การฝึกโมเดลขนาดใหญ่ต้องอ่านข้อมูลจากชุดข้อมูลขนาดมหาศาลอย่างต่อเนื่อง และเขียน checkpoint เป็นระยะ เพื่อให้การฝึกสามารถกู้คืนได้หลังจากเกิดความล้มเหลว การเปลี่ยนแปลงพารามิเตอร์ หรือเหตุการณ์การขยายขนาด หากการเขียน checkpoint ช้าเกินไป การฝึกอาจต้องหยุดพัก หากการโหลดข้อมูลและการประมวลผลล่วงหน้าไม่ทัน ชุดงานของ GPU อาจเกิดช่วงเวลาที่ไม่มีการทำงาน ในสถานการณ์การอนุมาน (inference) SSD มักถูกใช้สำหรับการโหลดโมเดล การแคช ดัชนีเวกเตอร์ และการบันทึก log โดยเฉพาะ RAG ระบบแนะนำ การค้นหาแบบมัลติโมดัล และบริการ API ที่มีการทำงานพร้อมกันสูง ซึ่งมีความอ่อนไหวเป็นพิเศษต่อการเข้าถึงแบบสุ่มและเวลาแฝงที่ส่วนท้าย (tail latency)

คู่มือภาพรวม GPUDirect Storage Overview Guide ของ NVIDIA อธิบายว่า GDS มุ่งเน้นไปที่ระบบไฟล์, API ของ cuFile และเส้นทางการรับส่งข้อมูลระหว่าง GPU กับอุปกรณ์จัดเก็บข้อมูลอย่างไร สิ่งนี้ไม่ได้เป็นเพียงเรื่องการติดตั้ง SSD ลงในเซิร์ฟเวอร์เท่านั้น แต่ยังเป็นเรื่องของการลดการคัดลอกข้อมูลที่ซ้ำซ้อนในเส้นทาง I/O ของ GPU และการลดภาระงานของการเคลื่อนย้ายข้อมูลที่อาศัย CPU เป็นตัวกลาง สำหรับคลัสเตอร์ AI สิ่งนี้มีความสำคัญ เนื่องจากเมื่อปริมาณข้อมูล จำนวน GPU และงานที่ทำงานพร้อมกันเพิ่มขึ้นทั้งหมด เส้นทาง staging ผ่าน CPU แบบดั้งเดิมอาจกลายเป็นคอขวดที่ถูกขยายให้ใหญ่ขึ้นได้

การเลือก SSD สำหรับองค์กรไม่ควรมองแค่ความจุเพียงอย่างเดียว SSD สำหรับผู้บริโภคอาจดูเร็วจากตัวเลขการอ่าน/เขียนตามลำดับที่โฆษณา แต่ศูนย์ข้อมูล AI ให้ความสำคัญกับประสิทธิภาพที่ต่อเนื่อง QoS ความทนทานในการเขียน การป้องกันไฟดับ ความเสถียรของเฟิร์มแวร์ มาตรฐานอินเทอร์เฟซ และความสะดวกในการบริการมากกว่า พอร์ตโฟลิโอ AI SSD portfolio ของ Micron เน้นที่ PCIe Gen5, latency ต่ำ, QoS และงานสำหรับการฝึกและการอนุมาน AI ซึ่งสะท้อนให้เห็นว่า SSD สำหรับองค์กรกำลังวิวัฒนาการจากอุปกรณ์จัดเก็บข้อมูลตามความจุธรรมดา ไปสู่ตัวเร่งประสิทธิภาพเฉพาะทางสำหรับ hot-path ของ AI

การเลือก SSD สำหรับองค์กรควรพิจารณาจากตัวชี้วัดเหล่านี้:

อย่างไรก็ตาม SSD ไม่เหมาะสำหรับชุดข้อมูล AI ทุกประเภทโดยไม่มีขีดจำกัด คลังข้อมูลย้อนหลัง ไฟล์ log ที่หมดอายุ ชุดข้อมูลรูปภาพและวิดีโอที่ถูกเข้าถึงน้อยครั้ง เวอร์ชันโมเดลเก่า และการสำรองข้อมูลระยะยาว อาจกลายเป็นภาระค่าใช้จ่ายที่สูงหากถูกเก็บไว้บน SSD อย่างถาวร เนื่องจากปริมาณข้อมูล AI ที่เพิ่มขึ้น ต้นทุนการจัดซื้อ SSD วงจรอุปทานของ NAND ความหนาแน่นของพลังงาน และความต้องการระบบระบายความร้อน ล้วนส่งผลต่อต้นทุนครอบครองรวม (total cost of ownership) เช่นกัน 7600 NVMe SSD ของ Micron เน้นด้าน latency ต่ำ QoS และประสิทธิภาพระดับ data center ซึ่งยืนยันแนวคิดที่ว่าคุณค่าของ SSD กระจุกตัวอยู่ในเลเยอร์ active ที่ไวต่อประสิทธิภาพ ไม่ใช่ในทุกเลเยอร์ความจุ

สรุป: SSD เป็นชั้นเร่งประสิทธิภาพของศูนย์ข้อมูล AI โดยเหมาะที่สุดสำหรับข้อมูลร้อน การเข้าถึงพร้อมกันจำนวนมาก การอนุมานที่มีความหน่วงต่ำ การดึงข้อมูลฝึกฝนล่วงหน้า จุดตรวจสถานะ (checkpoints) ดัชนีเวกเตอร์ และการโหลดโมเดล ซึ่งช่วยให้ GPU ได้รับข้อมูลเร็วขึ้น ลดเวลารอ I/O และปรับปรุงความเสถียรของการตอบสนองในคลัสเตอร์ที่มีผู้ใช้หลายรายร่วมกัน แต่ SSD ไม่ควรเป็นที่จัดเก็บเริ่มต้นสำหรับข้อมูลทั้งหมด โดยเฉพาะชุดข้อมูลระยะยาวที่มีการเรียกใช้งานต่ำ แนวทางที่สมเหตุสมผลกว่าคือ วาง SSD ไว้ในเส้นทางข้อมูลร้อน ใช้ HDD หรือ object storage เป็นชั้นความจุ และเชื่อมต่อกันผ่านนโยบายวงจรชีวิตข้อมูล กลยุทธ์แคช และกฎการกำกับดูแลข้อมูล

HDD มีบทบาทอย่างไรในศูนย์ข้อมูล AI? รากฐานด้านความจุ ทะเลสาบข้อมูล และการเก็บรักษาข้อมูลเย็น

HDD ทำหน้าที่จัดการด้านความจุขนาดใหญ่ การเข้าถึงที่ไม่บ่อยครั้ง และการเก็บรักษาระยะยาวในศูนย์ข้อมูล AI โดย HDD ไม่เหมาะสำหรับการใช้แทน SSD ในเส้นทางข้อมูลร้อนที่ต้องการความหน่วงต่ำ แต่มีความเหมาะสมอย่างยิ่งสำหรับคลังข้อมูลสำหรับการฝึกโมเดล บันทึกย้อนหลัง (logs) ชุดข้อมูลภาพและวิดีโอ เวอร์ชันโมเดลเก่า ข้อมูลสำรอง ข้อมูลการตรวจสอบ และคลังเอกสารเพื่อการปฏิบัติตามข้อกำหนด AI ไม่ได้ทำให้ HDD ไร้ความสำคัญ ตรงกันข้าม เนื่องจากความต้องการในการสร้างข้อมูลและการเก็บรักษาระยะยาวยังคงเพิ่มขึ้นอย่างต่อเนื่อง HDD แบบ nearline จึงยังคงเป็นรากฐานด้านความจุที่สำคัญสำหรับผู้ให้บริการคลาวด์ ระบบ object storage และ data lakes ขนาดใหญ่

การเติบโตของข้อมูล AI มีรูปแบบที่ชัดเจน: ข้อมูลจำนวนมากอาจไม่ถูกเข้าถึงในทุกวัน แต่ไม่สามารถลบออกได้ง่าย การฝึกโมเดลขนาดใหญ่ต้องใช้คลังข้อมูลหลายเวอร์ชัน การใช้งาน AI ในองค์กรต้องการฐานความรู้ส่วนตัว ระบบการอนุมาน (Inference) สร้าง log จำนวนมหาศาล การประเมินโมเดลจัดเก็บผลลัพธ์ระหว่างทาง กรณีการใช้งานด้านการปฏิบัติตามข้อกำหนดต้องการบันทึกการตรวจสอบ ตราบใดที่ความถี่ในการเข้าถึงต่ำ ข้อกำหนดด้านเวลาการกู้คืนอยู่ในระดับปานกลาง และมูลค่าทางธุรกิจเป็นระยะยาว HDD ย่อมมีข้อได้เปรียบทั้งด้านต้นทุนและความจุอย่างชัดเจน

Seagate เชื่อมโยงฮาร์ดดิสก์ความจุสูงเข้ากับศูนย์ข้อมูล ความต้องการจัดเก็บข้อมูล AI การจัดวางข้อมูล และการวิเคราะห์ข้อมูลที่ขอบเครือข่าย ในการประกาศ Exos M 30TB Western Digital ยังเน้นย้ำแผนงานฮาร์ดดิสก์ความจุสูงสำหรับลูกค้า hyperscale ในการอัปเดต 40TB UltraSMR ePMR HDD รวมถึงเส้นทางในอนาคตสู่ HAMR และฮาร์ดดิสก์ความจุเกิน 100TB การเคลื่อนไหวเหล่านี้แสดงให้เห็นว่าผู้ผลิต HDD ไม่ได้ถอนตัวจากโครงสร้างพื้นฐาน AI แต่ยังคงพัฒนาต่อไปในด้านความจุของไดรฟ์ที่สูงขึ้น ต้นทุนต่อหน่วยความจุที่ต่ำลง และความเหมาะสมที่ดีขึ้นสำหรับการใช้งาน hyperscale

HDD เหมาะสมกับข้อมูล AI ประเภทเหล่านี้มากกว่า:

จุดอ่อนของ HDD ก็ชัดเจนเช่นกัน เนื่องจากโครงสร้างเชิงกล HDD จึงมีความอ่อนแอกว่า SSD อย่างมากในด้านการเข้าถึงแบบสุ่ม (random access), latency ต่ำ และ IOPS สูง ในการอนุมานแบบความสัมพันธ์พร้อมกันสูง ฐานข้อมูลเวกเตอร์ ชุดข้อมูลการฝึกที่ใช้งานอยู่ และการกู้คืน checkpoint ที่บ่อยครั้ง HDD อาจกลายเป็นคอขวดด้านประสิทธิภาพ คลัสเตอร์ HDD ขนาดใหญ่ยังต้องจัดการ failure domain เวลาในการสร้างใหม่ ความหนาแน่นของแร็ก การสั่นสะเทือน กลยุทธ์ RAID หรือ erasure coding การตรวจสอบเบื้องหลัง และ SLA การกู้คืน ยิ่งความจุของไดรฟ์มากขึ้นเท่าไร ก็ยิ่งต้องออกแบบหน้าต่างเวลาการกู้คืนหลังจากไดรฟ์ล้มเหลวอย่างรอบคอบมากขึ้นเท่านั้น

ตำแหน่งที่เหมาะสมของ HDD ในศูนย์ข้อมูล AI ไม่ใช่การเป็น “ตัวแทนที่ช้า” แต่เป็นรากฐานด้านความจุ SSD ฝั่งหน้าให้ความเร็ว HDD ฝั่งหลังให้ขนาดความจุ Object storage, ระบบไฟล์แบบกระจายศูนย์, เลเยอร์แคช และนโยบายวงจรชีวิตข้อมูลเชื่อมต่อทั้งสองส่วนเข้าด้วยกัน แพลตฟอร์มพื้นที่จัดเก็บข้อมูลสำหรับศูนย์ข้อมูล ของ Western Digital นำเสนอ AI, HPC, คลาวด์, NVMe-oF, TCO และความจุสูงไว้ด้วยกัน สะท้อนทิศทางของการจัดเก็บข้อมูลสำหรับ AI: การใช้งานแบบหลายชั้นร่วมกันแทนสถาปัตยกรรมสื่อเดียว

สรุป: HDD ยังคงมีความสำคัญในศูนย์ข้อมูล AI เนื่องจาก AI ไม่ได้ใช้เพียงข้อมูลแบบเรียลไทม์เท่านั้น แต่ยังสร้างและจัดเก็บข้อมูลปริมาณมหาศาลที่มีความถี่การเข้าถึงต่ำอย่างต่อเนื่องด้วย HDD มีจุดแข็งด้านต้นทุนต่อหน่วยความจุ การเก็บรักษาระยะยาว การติดตั้งในวงกว้าง และการขยายความจุขนาดใหญ่ ส่วนจุดอ่อนคือการเข้าถึงแบบสุ่ม ความหน่วงต่ำ และประสิทธิภาพในการทำงานแบบความเรียงพร้อมกันสูง คุณสามารถมอง HDD เป็นรากฐานของ AI data lake และชั้นข้อมูลเย็น ไม่ใช่สื่อหลักสำหรับเส้นทางข้อมูลร้อน (hot path) ของการฝึกและการอนุมาน ตราบใดที่งาน AI ยังต้องการการเก็บรักษาระยะยาวของคลังข้อมูล บันทึกการทำงาน การสำรองข้อมูล และโมเดลในอดีต HDD ก็มีแนวโน้มว่าจะไม่ถูกแทนที่อย่างสมบูรณ์ด้วย SSD

SSD เทียบกับ HDD ในศูนย์ข้อมูล AI: ประสิทธิภาพ ความจุ ต้นทุน การใช้พลังงาน และความหนาแน่นของแร็ค

การเปรียบเทียบระหว่าง SSD และ HDD ไม่ควรหยุดอยู่แค่ “อันไหนเร็วกว่า” หรือ “อันไหนถูกกว่า” SSD มีจุดแข็งในด้าน latency, IOPS, การเข้าถึงแบบสุ่ม (random access) และประสิทธิภาพต่อหน่วย จึงเหมาะสำหรับเส้นทางข้อมูลร้อน (hot path) ที่ไวต่อประสิทธิภาพ ในขณะที่ HDD มีข้อได้เปรียบในด้านต้นทุนต่อหน่วยความจุ การจัดเก็บระยะยาว และพูลความจุขนาดใหญ่ จึงเหมาะสำหรับข้อมูลอุ่นและข้อมูลเย็น ตรรกะการเลือกใช้ที่แท้จริงควรเริ่มต้นจากเป้าหมายทางธุรกิจ: หากข้อมูลส่งผลโดยตรงต่อ GPU utilization, latency ในการ inference และการตอบสนองแบบ concurrent ควรให้ความสำคัญกับ SSD เป็นอันดับแรก แต่หากข้อมูลส่วนใหญ่ใช้สำหรับการจัดเก็บระยะยาว การกู้คืนที่มีความถี่ต่ำ และการควบคุมต้นทุน ควรให้ความสำคัญกับ HDD หรือ object storage ที่ใช้ HDD เป็นพื้นฐาน

ในด้านประสิทธิภาพ SSD มีข้อได้เปรียบที่ชัดเจนมาก NVMe SSD สามารถให้ความสามารถในการทำงานพร้อมกันที่สูงกว่า ความหน่วงต่ำกว่า และความสามารถในการอ่าน/เขียนแบบสุ่มที่ดีกว่า จึงเหมาะสำหรับไฟล์ขนาดเล็ก ดัชนี แคช และการโหลดโมเดล ส่วน HDD เหมาะกับการอ่าน/เขียนแบบต่อเนื่องและการสแกนเป็นชุด แต่ไม่เหมาะกับคำขอแบบสุ่มจำนวนมาก ตารางด้านล่างนี้ให้การเปรียบเทียบอย่างรวดเร็ว:

การประเมินต้นทุนเป็นสิ่งที่เข้าใจผิดได้ง่ายเป็นพิเศษ หลายคนเปรียบเทียบเพียงราคาของไดรฟ์แต่ละตัวเท่านั้น และละเลย TCO สำหรับ SSD คุณจำเป็นต้องพิจารณาต้นทุนต่อ TB, ต้นทุนต่อ IOPS, ความทนทานต่อการเขียน, การระบายความร้อน, พลังงาน และการอัปเกรดอินเทอร์เฟซ สำหรับ HDD คุณจำเป็นต้องพิจารณาความหนาแน่นของตู้, เวลาในการ rebuild, อัตราความล้มเหลว, การดำเนินงาน, การเปลี่ยนทดแทน และภาระจาก erasure coding ในการสนทนาเรื่องต้นทุนของ storage ระดับองค์กร Tom's Hardware ระบุว่าช่องว่างของต้นทุนต่อความจุระหว่าง SSD และ HDD ระดับองค์กรอาจเปลี่ยนแปลงได้ตามสภาพอุปสงค์-อุปทานของ NAND และรอบการจัดซื้อ และว่า การใช้งานแบบผสมผสาน SSD + HDD มักจะปรับต้นทุนให้เหมาะสมที่สุดในเลเยอร์ความจุได้ง่ายกว่าโซลูชันที่ใช้ SSD ทั้งหมด ราคาตลาดเช่นนี้สามารถเปลี่ยนแปลงได้ตามเวลาและไม่ควรถือเป็นอัตราส่วนที่คงที่ในระยะยาว แต่มันเน้นย้ำประเด็นสำคัญ: การตัดสินใจด้านพื้นที่จัดเก็บข้อมูลสำหรับ AI ไม่สามารถตัดสินใจได้โดยพิจารณาจากตัวชี้วัดด้านประสิทธิภาพเพียงอย่างเดียว

การใช้พลังงานและความหนาแน่นของแร็ก (rack density) ก็ไม่สามารถตัดสินได้จากการใช้พลังงานของไดรฟ์เดี่ยวเพียงอย่างเดียว SSD อาจใช้พลังงานค่อนข้างมากต่อไดรฟ์ แต่ให้ประสิทธิภาพต่อวัตต์ที่แข็งแกร่งและมีข้อได้เปรียบด้านความหน่วงต่ำ ส่วน HDD มีประสิทธิภาพต่อไดรฟ์ที่ต่ำกว่า แต่ยังคงน่าสนใจในแง่ของต้นทุนต่อหน่วยความจุและการขยายขนาดในระดับความจุ (capacity-layer scaling) ในท้ายที่สุด ศูนย์ข้อมูลจะสนใจเรื่องความจุที่ใช้งานได้จริงต่อแร็ก อัตราการส่งข้อมูลต่อวัตต์ ขีดจำกัดด้านการระบายความร้อน ช่วงเวลาบำรุงรักษา และว่าการกู้คืนจากความล้มเหลวสามารถตอบสนองข้อกำหนด SLA ได้หรือไม่ สำหรับคลัสเตอร์ AI หาก SSD ช่วยเพิ่มอัตราการใช้งาน GPU ได้อย่างมีนัยสำคัญ ต้นทุนพื้นที่จัดเก็บที่เพิ่มขึ้นก็อาจเป็นสิ่งที่คุ้มค่า แต่หากข้อมูลไม่ค่อยได้รับการเข้าถึงเป็นเวลาหลายปี การเก็บข้อมูลเหล่านั้นไว้บน SSD อาจกลายเป็นการจัดสรรทรัพยากรที่ไม่เหมาะสม

การคำนวณ TCO ของพื้นที่จัดเก็บข้อมูลอาจรวมถึง:

• ต้นทุนการจัดซื้อ: SSD, HDD, ตู้เครื่อง (enclosure), คอนโทรลเลอร์ และอุปกรณ์เครือข่าย
• ต้นทุนด้านประสิทธิภาพ: ต้นทุนต่อ GB/s, ต่อ IOPS และต่อการเข้าถึงที่มีความหน่วงต่ำ
• ต้นทุนด้านความจุ: ต้นทุนต่อ TB, ต่อ PB และตลอดระยะเวลาการเก็บรักษาข้อมูลระยะยาว
• ต้นทุนการดำเนินงาน: การเปลี่ยนทดแทน, การมอนิเตอร์, เฟิร์มแวร์, การกู้คืน และแรงงาน
• ต้นทุนพลังงาน: ไฟฟ้า, ระบบหล่อเย็น, ความหนาแน่นของแร็ค และงบประมาณด้านพลังงาน
• ต้นทุนด้านธุรกิจ: เวลาที่ GPU ว่างงาน, การหยุดชะงักของการฝึกโมเดล และความเสี่ยงต่อ SLA ของการอนุมาน (inference)
• ต้นทุนการย้ายข้อมูล: การย้ายข้อมูลร้อน/เย็น, การจำลองข้อมูลข้ามคลัสเตอร์ และการกู้คืนจากคลังเก็บข้อมูล

หากมองห่วงโซ่อุปทานของอุปกรณ์จัดเก็บข้อมูลจากมุมมองการลงทุนหรือการจัดสรรสินทรัพย์ ตรรกะด้านต้นทุนที่คล้ายกันก็ใช้ได้กับการซื้อขายเช่นกัน ความต้องการอุปกรณ์จัดเก็บข้อมูลของ AI อาจเพิ่มความสนใจใน SSD สำหรับองค์กร, NAND, HDD แบบ nearline, ศูนย์ข้อมูลคลาวด์ และ ETF ที่เกี่ยวข้อง แต่ความผันผวนของตลาดและค่าธรรมเนียมก็ส่งผลต่อผลลัพธ์จริงเช่นเดียวกัน ผู้ใช้ที่มีสิทธิ์สามารถตรวจสอบค่าธรรมเนียมการซื้อขายหุ้นสหรัฐฯ ของ Biya เพื่อทำความเข้าใจว่าค่าคอมมิชชัน ค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมตัวแทนภายนอก และค่าใช้จ่ายอื่น ๆ แสดงอย่างไร โดย Biya ไม่เก็บค่าคอมมิชชันสำหรับการซื้อขายหุ้นสหรัฐฯ (0 USD) ส่วนค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมตัวแทนภายนอก และค่าใช้จ่ายอื่น ๆ ขึ้นอยู่กับศูนย์ค่าธรรมเนียมและหน้าคำสั่งซื้อ ข้อมูลตลาดสาธารณะและโครงสร้างค่าธรรมเนียมไม่ใช่คำแนะนำในการลงทุนก่อนทำการเทรด คุณควรตรวจสอบใบแจ้งยอด ระดับความเสี่ยงที่ยอมรับได้ และข้อกำหนดด้านกำกับดูแลที่ใช้บังคับในท้องถิ่นของคุณ

สรุป: ความแตกต่างระหว่าง SSD และ HDD ควรได้รับการประเมินในด้านประสิทธิภาพ ความจุ ต้นทุน การใช้พลังงาน และความซับซ้อนในการบำรุงรักษา SSD เหมาะสำหรับข้อมูลร้อนที่มีมูลค่าสูง ในขณะที่ HDD เหมาะสำหรับชั้นความจุระยะยาว SSD แก้ปัญหาการจ่ายข้อมูลให้ GPU การอนุมานที่มีความหน่วงต่ำ และการเข้าถึงพร้อมกันจำนวนมาก HDD แก้ปัญหาดาต้าเลค การสำรองข้อมูล ล็อก และการจัดเก็บถาวร สถาปัตยกรรมแบบ All-flash อาจเหมาะสำหรับสถานการณ์ที่ต้องการประสิทธิภาพสูงสุด แต่ไม่ได้เหมาะสมโดยอัตโนมัติสำหรับข้อมูล AI ทั้งหมด คุณค่าของสถาปัตยกรรมแบบไฮบริดคือการใช้สื่อที่มีประสิทธิภาพสูงและราคาแพงในจุดที่สร้างประสิทธิภาพการทำงานได้มากที่สุด ขณะเดียวกันก็วางภาระความจุที่มีความถี่การใช้งานต่ำไว้ในชั้นการจัดเก็บที่ประหยัดกว่า

ควรแบ่งข้อมูลร้อนและข้อมูลเย็นเป็นชั้นอย่างไร? โมเดลการปรับใช้สำหรับการฝึก AI, การอนุมาน, บันทึกล็อก และการสำรองข้อมูล

การแบ่งข้อมูลร้อน/เย็นเป็นชั้นถือเป็นวิธีหลักในการควบคุมต้นทุนและปกป้องประสิทธิภาพในศูนย์ข้อมูล AI กล่าวอย่างง่าย ข้อมูลที่ถูกเข้าถึงบ่อยครั้ง ไวต่อความหน่วง และส่งผลโดยตรงต่อ GPU หรือการตอบสนองการอนุมาน ควรเข้าสู่ชั้นข้อมูลร้อนและใช้ SSD เป็นอันดับแรก ข้อมูลที่อาจถูกนำกลับมาใช้ซ้ำสำหรับการฝึก การสอบถาม หรือการประเมินผลในอนาคตอันใกล้ ควรเข้าสู่ชั้นอุ่น โดยใช้ SSD เป็นแคชร่วมกับ HDD หรือที่เก็บข้อมูลแบบวัตถุ ข้อมูลระยะยาวที่เข้าถึงได้ยาก ควรเข้าสู่ชั้นเย็น โดยใช้ HDD ที่เก็บข้อมูลแบบวัตถุ หรือที่เก็บข้อมูลสำหรับการจัดเก็บถาวร เกณฑ์สำคัญไม่ใช่ชื่อไฟล์ แต่คือความถี่ในการเข้าถึง เวลาในการกู้คืน มูลค่าทางธุรกิจ และระยะเวลาการเก็บรักษาตามข้อกำหนดทางกฎหมาย

ชั้นข้อมูลร้อน: SSD รองรับการเข้าถึงแบบเรียลไทม์และการไหลของข้อมูล GPU ความเร็วสูง

ชั้นข้อมูลร้อนให้บริการข้อมูลที่จำเป็นในขณะนี้ ใช้งานบ่อยครั้ง และมีความสำคัญต่อธุรกิจหากทำงานช้าลง ตัวอย่างทั่วไป ได้แก่ ชุดข้อมูลสำหรับการฝึกที่ใช้งานอยู่ ชุดข้อมูลการฝึก (training batches) น้ำหนักโมเดล จุดตรวจสอบที่ใช้งานอยู่ (active checkpoints) ดัชนีเวกเตอร์ ฐานความรู้ร้อนของ RAG แคชสำหรับการอนุมาน (inference) บันทึกคำขอล่าสุด และฟีเจอร์แบบเรียลไทม์ ข้อกำหนดที่สำคัญที่สุดในที่นี้คือ อัตราการถ่ายโอนข้อมูล (throughput) ความหน่วงต่ำ และความเสถียรภาพ สำหรับการฝึกโมเดลขนาดใหญ่ ชั้นข้อมูลร้อนเป็นตัวกำหนดว่า GPU จำเป็นต้องรอหรือไม่ สำหรับบริการอนุมาน ชั้นข้อมูลนี้ส่งผลต่อความหน่วงของโทเคนแรก (first-token latency) อัตราการเข้าถึงแคช และความเสถียรภาพในการทำงานแบบขนาน

ชั้นข้อมูลร้อน (hot data layer) มักใช้ NVMe SSD, SSD ภายในเครื่อง, NVMe-oF, ระบบไฟล์แบบกระจาย all-flash หรือชุดแคช SSD ในการสนทนาเรื่อง ประสิทธิภาพของ AI และประสิทธิภาพการใช้พลังงาน Micron อ้างอิงผลการทดสอบมาตรฐานอย่าง MLPerf Storage ซึ่งแสดงให้เห็นว่าการจัดเก็บข้อมูลสำหรับ AI ได้พัฒนาจากการเป็น "องค์ประกอบด้านความจุ" มาเป็น "องค์ประกอบด้านประสิทธิภาพการประมวลผล" หาก SSD สามารถลดเวลารอคอยของ GPU ลงได้ คุณค่าของมันไม่ควรถูกประเมินจากต้นทุนต่อ TB เพียงอย่างเดียว

ชั้นข้อมูลอุ่น: การผสมผสาน SSD + HDD พร้อมการย้ายข้อมูลตามรอบเวลา

ชั้นข้อมูลอุ่นเป็นชั้นที่ถูกตัดสินผิดพลาดได้ง่ายที่สุด ข้อมูลนี้ไม่ใช่ข้อมูลเย็น เนื่องจากอาจยังคงถูกสอบถาม นำกลับมาใช้ซ้ำสำหรับการฝึกโมเดล หรือถูกเรียกใช้ซ้ำในอนาคตอันใกล้ และก็ไม่ใช่ข้อมูลร้อนเช่นกัน เนื่องจากไม่จำเป็นต้องใช้สื่อที่มีประสิทธิภาพสูงสุดถาวร ข้อมูลอุ่นทั่วไป ได้แก่ ตัวอย่างการฝึกในช่วง 30–180 วันล่าสุด ผลการประเมินโมเดล บันทึกการอนุมาน (inference logs) ล่าสุด ข้อมูลการทดสอบ A/B ชุดข้อมูลที่ติดป้ายกำกับโดยมนุษย์ โมเดลเวอร์ชันล่าสุด และฟีเจอร์ที่นำกลับมาใช้ซ้ำได้ ข้อมูลอุ่นมักถูกจัดการระหว่างแคช SSD, พูลความจุ HDD, ที่เก็บข้อมูลแบบออบเจ็กต์ หรือระบบไฟล์แบบกระจาย โดยการย้ายข้อมูลจะพิจารณาจากความถี่ในการเข้าถึง

Apache Doris กล่าวถึงการจัดชั้นข้อมูลข้าม SSD, HDD และ object storage โดยชี้ให้เห็นว่าข้อมูลที่เขียนใหม่สามารถอยู่บนชั้นที่มีประสิทธิภาพสูงก่อน แล้วจึงย้ายไปยัง object storage หลังจากผ่านช่วงเวลาที่การเข้าถึงเย็นลง ศูนย์ข้อมูล AI สามารถใช้ตรรกะที่คล้ายกันได้: ข้อมูลใหม่จะเข้าสู่ชั้น hot หรือ warm ก่อน และหลังจากการฝึกโมเดลเสร็จสิ้นหรือความถี่ในการเข้าถึงลดลง ข้อมูลจะถูกย้ายไปยังชั้นที่มีต้นทุนต่ำกว่า ประเด็นสำคัญไม่ใช่การย้ายไฟล์ด้วยมือ แต่เป็นนโยบายวงจรชีวิตที่ทำงานโดยอัตโนมัติ

ชั้นข้อมูลเย็น: HDD รองรับการจัดเก็บระยะยาวและการเข้าถึงที่ไม่บ่อยครั้ง

ชั้นข้อมูลเย็น (cold data layer) ใช้สำหรับข้อมูลที่ถูกเข้าถึงไม่บ่อยแต่ยังจำเป็นต้องเก็บรักษาไว้ ตัวอย่างทั่วไป ได้แก่ คลังข้อมูลประวัติศาสตร์ ชุดข้อมูลรูปภาพและวิดีโอที่ใช้ความถี่ต่ำ เวอร์ชันโมเดลเก่า การสำรองข้อมูลระยะยาว ข้อมูลการตรวจสอบเพื่อการปฏิบัติตามข้อกำหนด สำเนาสำหรับการกู้คืนระบบจากภัยพิบัติ และบันทึก (log) ที่หมดอายุแล้ว HDD, object storage และ archival storage เหมาะสำหรับข้อมูลประเภทเหล่านี้มากกว่า AWS S3 Storage Classes แยกการจัดเก็บตามรูปแบบการเข้าถึง รวมถึงระดับการเข้าถึงบ่อยครั้ง การเข้าถึงไม่บ่อย และระดับแบบเก็บถาวร นอกจากนี้ S3 Lifecycle ยังอนุญาตให้ย้ายออบเจกต์ระหว่างระดับการจัดเก็บตามกฎเพื่อเพิ่มประสิทธิภาพด้านต้นทุน

การจัดชั้นข้อมูลร้อน/เย็น (hot/cold data tiering) สามารถนำไปปฏิบัติได้ดังนี้:

สรุป: การจัดชั้นข้อมูลร้อน/เย็น (Hot/Cold Data Tiering) ไม่ใช่ป้ายกำกับทางไอทีแบบเป็นทางการ แต่เป็นกลไกสำคัญในการลดต้นทุนและเพิ่มประสิทธิภาพของศูนย์ข้อมูล AI ข้อมูลร้อนควรให้ความสำคัญกับประสิทธิภาพและจัดเก็บบน SSD ข้อมูลอุ่นควรปรับแบบไดนามิกตามความถี่ในการเข้าถึง โดยใช้ SSD cache ร่วมกับ capacity pool ของ HDD เพื่อสร้างสมดุลระหว่างประสิทธิภาพและต้นทุน ข้อมูลเย็นควรให้ความสำคัญกับต้นทุนความจุระยะยาว การเก็บรักษาตามข้อกำหนดด้าน compliance และ SLA การกู้คืน ซึ่งทำให้ HDD หรือ archival object storage มีความเหมาะสมกว่า กลยุทธ์การจัดชั้นข้อมูลที่ดีจะช่วยป้องกันไม่ให้ GPU ต้อง idle เพราะการอ่านข้อมูลร้อนที่ช้า ในขณะเดียวกันก็ช่วยหลีกเลี่ยงต้นทุนในการเก็บข้อมูลหลายปีที่เข้าถึงน้อยครั้งไว้บน SSD ที่มีราคาแพง

อนาคตจะเป็น All-Flash ทั้งหมดหรือไม่? แนวโน้มสถาปัตยกรรม SSD, HDD และแบบผสม

ศูนย์ข้อมูล AI ในอนาคตจะใช้พื้นที่จัดเก็บแบบ all-flash มากขึ้นในบางเลเยอร์ แต่นั่นไม่ได้หมายความว่า HDD จะหายไป การฝึกฝนที่มีประสิทธิภาพสูง การอนุมานแบบเรียลไทม์ การค้นหาเวกเตอร์ RAG การบันทึกจุดตรวจสอบที่บ่อยครั้ง และ I/O แบบ GPU-direct จะเป็นตัวขับเคลื่อนการใช้งาน SSD ที่เพิ่มขึ้น แต่ data lake คลังข้อมูลประวัติศาสตร์ การสำรองข้อมูล การเก็บรักษาเพื่อการปฏิบัติตามข้อกำหนด และการเข้าถึงที่ไม่บ่อยนัก ยังคงต้องการสื่อบันทึกที่มีความจุสูงและต้นทุนต่ำ ทิศทางที่สมจริงกว่าคือ SSD จะยังคงเคลื่อนขึ้นไปสู่เลเยอร์ประสิทธิภาพ HDD จะยังคงยึดฐานในเลเยอร์ความจุ และการจัดชั้นข้อมูลแบบ software-defined จะวางข้อมูลไว้ในตำแหน่งที่เหมาะสม

All-Flash จะขยายตัวในสถานการณ์ AI ที่มีประสิทธิภาพสูง

สถาปัตยกรรมแฟลชทั้งหมดจะขยายตัวในสถานการณ์เฉพาะ โดยเฉพาะคลัสเตอร์ AI ที่มีความต้องการสูงมากในด้านความหน่วงแฝง ทรูพุต การกู้คืน และความเสถียรในการทำงานพร้อมกัน การฝึกโมเดลขนาดใหญ่ แพลตฟอร์มทดลองความถี่สูง การค้นหามัลติโมดัลแบบเรียลไทม์ การอนุมานความหน่วงแฝงต่ำระดับการเงิน ระบบแนะนำออนไลน์ และฐานข้อมูลเวกเตอร์ขนาดใหญ่ มีแนวโน้มที่จะใช้ SSD หรือระบบแฟลชทั้งหมดมากขึ้น ในขณะที่ PCIe Gen5, PCIe Gen6, E1.S, E3.S, SSD QLC ความจุสูง และระบบระบายความร้อนด้วยของเหลวมีการพัฒนา SSD จะยังคงพัฒนาไปในด้านความหนาแน่นของประสิทธิภาพและความยืดหยุ่นในการปรับใช้

อย่างไรก็ตาม ออลแฟลช (all-flash) ไม่ได้หมายความว่าจะเหมาะสมที่สุดในทุกสถานการณ์ ข้อมูล AI จำนวนมากได้มาซึ่งมูลค่าทางธุรกิจจากการสะสมในระยะยาว มากกว่าการเข้าถึงแบบเรียลไทม์ คลังข้อมูลในอดีตอาจถูกนำกลับมาใช้ซ้ำเพื่อการฝึกฝนโมเดลอีกครั้งหลังผ่านไปหลายปี เวอร์ชันโมเดลเก่าอาจจำเป็นต้องใช้เฉพาะในกรณีตรวจสอบย้อนหลังหรือย้อนกลับเวอร์ชัน บันทึก log จำนวนมากอาจถูกสอบถามเฉพาะในระหว่างการวิเคราะห์เหตุการณ์ขัดข้องเท่านั้น หากนำข้อมูลทั้งหมดนี้ไปจัดเก็บบน SSD ทรัพยากรประสิทธิภาพสูงก็จะถูกใช้อย่างสิ้นเปลือง ออลแฟลชเหมาะสมกับพื้นที่ทำงานที่ต้องการประสิทธิภาพสูงมากกว่า ไม่ใช่สำหรับใช้เป็นกลุ่มความจุแบบไม่เลือกสรร

HDDs Will Not Easily Leave the AI Capacity Layer

คุณค่าในระยะยาวของ HDD มาจากเศรษฐศาสตร์ด้านความจุ ระบบ AI จำเป็นต้องเก็บรักษาข้อมูลดิบ ข้อมูลที่ได้มา และเวอร์ชันของโมเดลมากขึ้น และข้อมูลส่วนใหญ่เหล่านั้นไม่จำเป็นต้องเข้าถึงด้วยความหน่วงต่ำ การอภิปรายของ Seagate เกี่ยวกับ สถาปัตยกรรมคลาวด์ hyperscale เน้นย้ำถึงการประนีประนอมระหว่างความจุ ต้นทุน ขนาด และการเติบโตของข้อมูลในสถาปัตยกรรมคลาวด์ ตราบใดที่ข้อมูล AI ยังคงเติบโตอย่างรวดเร็ว ชั้นความจุก็จะยังคงต้องใช้ HDD, object storage และระบบจัดเก็บถาวร

Western Digital ยังเน้นย้ำถึงการจัดเก็บข้อมูลที่มีต้นทุนรวมต่ำ (Low-TCO) สำหรับ hyperscalers, CSPs และ OEMs ในการสื่อสารกับนักลงทุนเกี่ยวกับนวัตกรรมการจัดเก็บข้อมูลยุค AI สำหรับผู้ให้บริการคลาวด์ขนาดใหญ่ สื่อจัดเก็บข้อมูลไม่ใช่เพียงการซื้อฮาร์ดแวร์เท่านั้น แต่ยังส่งผลต่อความหนาแน่นของแร็ค การจัดหาในระยะยาว งบประมาณด้านพลังงาน การกู้คืนข้อมูล การจัดการวงจรชีวิต และการจัด timing ของรายจ่ายลงทุน ตราบใดที่ HDD ยังคงเพิ่มความจุของไดรฟ์และควบคุมต้นทุนต่อหน่วยความจุได้ ฮาร์ดดิสก์เหล่านี้ก็จะยังคงมีบทบาทในชั้นความจุสำหรับ AI

องค์กรควรวางแผนย้อนกลับจากวงจรชีวิตของข้อมูล

การเลือกใช้ระบบจัดเก็บข้อมูลสามารถกำหนดแนวทางได้ด้วยคำถามห้าข้อ:

1. มีการเข้าถึงข้อมูลบ่อยเพียงใด?
2. ข้อมูลส่งผลกระทบโดยตรงต่อการใช้งาน GPU หรือเวลาแฝงในการอนุมาน (inference latency) หรือไม่?
3. เวลาในการกู้คืนที่ต้องการเป็นหน่วยวินาที นาที ชั่วโมง หรือวัน?
4. ต้องเก็บรักษาข้อมูลไว้นานเพียงใด และมีข้อกำหนดด้านการตรวจสอบ (audit) หรือการปฏิบัติตามข้อกำหนด (compliance) ที่เกี่ยวข้องหรือไม่?
5. ธุรกิจให้ความสำคัญกับต้นทุนต่อหน่วยประสิทธิภาพหรือต้นทุนต่อหน่วยความจุมากกว่ากัน?

หากคำตอบชี้ไปที่การเข้าถึงความถี่สูง ความหน่วงต่ำ และประสิทธิภาพการประมวลผล ควรให้ความสำคัญกับ SSD เป็นอันดับแรก หากคำตอบชี้ไปที่การจัดเก็บระยะยาว การขยายความจุ และการเข้าถึงความถี่ต่ำ ควรให้ความสำคัญกับ HDD หรือ object storage เป็นอันดับแรก หากรูปแบบการเข้าถึงเปลี่ยนแปลงไปตามเวลา ควรให้ความสำคัญกับสถาปัตยกรรมแบบไฮบริดและนโยบายวงจรชีวิตแบบอัตโนมัติเป็นอันดับแรก สำหรับศูนย์ข้อมูล AI ส่วนใหญ่ สถาปัตยกรรมแบบไฮบริดไม่ใช่ทางเลือกที่ต้องประนีประนอม แต่เป็นคำตอบทางวิศวกรรมที่สมจริงกว่า

หากคุณติดตามโอกาสในตลาดทุนที่เชื่อมโยงกับโครงสร้างพื้นฐาน AI คุณสามารถวาง SSD, HDD, HBM, เซิร์ฟเวอร์, เครือข่าย, capex ระบบคลาวด์ และข้อจำกัดด้านพลังงานไว้ในแผนที่ห่วงโซ่อุปทานเดียวกันได้ เมื่อใช้เครื่องมือข้อมูลหุ้นสหรัฐฯ เพื่อติดตามบริษัทด้านอุปกรณ์จัดเก็บข้อมูล เซมิคอนดักเตอร์ และโครงสร้างพื้นฐานคลาวด์ คุณควรพิจารณารายงานผลประกอบการ แนวปฏิบัติแนะนำ วงจรอุปสงค์-อุปทาน และความเสี่ยงด้านมูลค่าประเมินด้วย แทนที่จะตัดสินใจซื้อขายโดยอ้างอิงจากเทรนด์เทคโนโลยีเพียงอย่างเดียว

สรุป: อนาคตของศูนย์ข้อมูล AI มีแนวโน้มจะเป็น "SSD มากขึ้น + HDD ขนาดใหญ่ขึ้น + การจัดชั้นข้อมูลด้วยซอฟต์แวร์ที่แข็งแกร่งขึ้น" มากกว่าการเปลี่ยนไปใช้ all-flash ทั้งหมดหรือการกลับไปใช้ระบบที่มีแต่ HDD เพียงอย่างเดียว SSD จะยังคงขยายตัวเข้าสู่ชั้นการทำงานด้านการฝึกโมเดล (training) การอนุมาน (inference) การค้นหาเวกเตอร์ และชั้นประสิทธิภาพ GPU-direct I/O ส่วน HDD จะยังคงสนับสนุน data lake คลังข้อมูลถาวร (archive) การสำรองข้อมูล และชั้นความจุสำหรับการเข้าถึงความถี่ต่ำ สถาปัตยกรรมควรถูกกำหนดจากวงจรชีวิตของข้อมูล ความถี่ในการเข้าถึง เวลาในการกู้คืน มูลค่าทางธุรกิจ และต้นทุนครอบคลุมตลอดอายุการใช้งาน (total cost of ownership) ไม่ใช่จากการตลาดด้านที่เก็บข้อมูล องค์กรที่วางข้อมูลไว้ในชั้นที่เหมาะสมจะอยู่ในตำแหน่งที่ดีกว่าในการควบคุมต้นทุนโครงสร้างพื้นฐาน AI และปลดล็อกประสิทธิภาพการประมวลผล

การเปลี่ยนแปลงในสถาปัตยกรรมการจัดเก็บข้อมูล AI ยังส่งผลต่อวิธีการประเมินสินทรัพย์ที่เกี่ยวข้องด้วย Enterprise SSD ได้รับอิทธิพลจาก NAND, ตัวควบคุม, อินเทอร์เฟซ และความต้องการ hot-path ของ AI ส่วน Nearline HDD ได้รับอิทธิพลจากการจัดหาความจุของคลาวด์ ข้อตกลงการจัดหาระยะยาว และแผนการพัฒนาความจุสูง ผู้ให้บริการคลาวด์ บริษัทเซมิคอนดักเตอร์ ผู้ผลิตเซิร์ฟเวอร์ และบริษัทซอฟต์แวร์จัดเก็บข้อมูล รวมกันเป็นห่วงโซ่โครงสร้างพื้นฐาน AI หากคุณติดตามหุ้นสหรัฐฯ, หุ้นฮ่องกง, ETF, สินทรัพย์ดิจิทัล และการบริหารเงินทุนข้ามตลาด Biya สามารถช่วยคุณบันทึกการซื้อขายสินทรัพย์หลายประเภท ทบทวนโครงสร้างค่าธรรมเนียม และจัดการข้อมูลการซื้อขาย ความพร้อมใช้งานของบริการที่เกี่ยวข้องขึ้นอยู่กับสถานที่ตั้งของคุณ การยืนยันตัวตน กฎของแพลตฟอร์ม รวมถึงกฎหมายและข้อบังคับที่เกี่ยวข้องข้อมูลตลาดสาธารณะ กฎการซื้อขาย และคำอธิบายค่าธรรมเนียม ไม่ถือเป็นคำแนะนำการลงทุน สำหรับการเข้าถึงผ่านอุปกรณ์เคลื่อนที่ คุณสามารถ ดาวน์โหลดแอป และตรวจสอบคำสั่งซื้อ ใบแจ้งยอด ค่าธรรมเนียม และประกาศความเสี่ยงก่อนทำการซื้อขาย

คำถามที่พบบ่อย

ศูนย์ข้อมูล AI ควรให้ความสำคัญกับ SSD หรือ HDD?

ศูนย์ข้อมูล AI ควรเลือกใช้ SSD หรือ HDD โดยพิจารณาจากอุณหภูมิของข้อมูล ข้อมูลร้อน ไปป์ไลน์การฝึกอบรม แคชการอนุมาน (inference caches) ดัชนีเวกเตอร์ และจุดตรวจสอบที่ใช้งานอยู่ (active checkpoints) เหมาะสมกับ SSD มากกว่า ส่วนคลังข้อมูลย้อนหลัง ข้อมูลสำรอง ไฟล์เก็บถาวร และข้อมูลที่มีความถี่ในการเข้าถึงต่ำระยะยาว เหมาะสมกับ HDD มากกว่า ศูนย์ข้อมูล AI ขนาดใหญ่ส่วนใหญ่ใช้สถาปัตยกรรมแบบผสมผสานระหว่าง SSD + HDD แทนที่จะพึ่งพาสื่อจัดเก็บข้อมูลเพียงชนิดเดียว

SSD จะเข้ามาแทนที่ HDD ในศูนย์ข้อมูล AI ได้อย่างสมบูรณ์หรือไม่?

SSD ยังไม่น่าจะเข้ามาแทนที่ HDD ได้อย่างสมบูรณ์ในศูนย์ข้อมูล AI ในระยะเวลาอันใกล้นี้ SSD จะขยายการใช้งานไปสู่การฝึกโมเดล การอนุมาน (inference) และเส้นทางข้อมูลประสิทธิภาพสูง แต่ HDD ยังคงรองรับความจุขนาดใหญ่ การเข้าถึงความถี่ต่ำ ทะเลสาบข้อมูล (data lake) และการจัดเก็บระยะยาว ตราบใดที่ระบบ AI ยังจำเป็นต้องเก็บรักษาชุดข้อมูลประวัติศาสตร์จำนวนมหาศาล HDD ก็จะยังคงมีคุณค่าในชั้นความจุ (capacity layer)

ควรจัดเก็บข้อมูลสำหรับการฝึก AI ไว้บน SSD หรือ HDD?

ข้อมูลการฝึก AI ควรถูกจัดแบ่งตามระดับการใช้งาน ตัวอย่างข้อมูลที่ใช้งานอยู่ ข้อมูลที่ประมวลผลล่วงหน้า checkpoint ที่ใช้งานอยู่ และชุดข้อมูลที่ถูกอ่านบ่อยครั้ง เหมาะสำหรับ SSD มากกว่า ส่วนคลังข้อมูลการฝึกในอดีต เวอร์ชันเก่าของชุดข้อมูล และตัวอย่างข้อมูลที่ใช้ความถี่ต่ำ เหมาะสำหรับ HDD หรือ object storage มากกว่า หัวใจสำคัญคือข้อมูลนั้นส่งผลโดยตรงต่อ GPU utilization และเวลาในการกู้คืนการฝึกหรือไม่

เหตุใด workloads การ inference ของ AI จึงต้องใช้ SSD ความเร็วสูง?

Workloads การ inference ของ AI ต้องใช้ SSD ความเร็วสูง เนื่องจากการโหลดโมเดล การแคช การค้นหาแบบเวกเตอร์ ฐานความรู้ RAG และ logs ที่มีการเรียกใช้งานพร้อมกันสูง อาจไวต่อ latency ได้ SSD ที่รวดเร็วสามารถลด bottleneck ในการอ่านแบบสุ่มและการโหลดข้อมูลได้ แม้ว่าผลลัพธ์สุดท้ายจะขึ้นอยู่กับสถาปัตยกรรมของโมเดล กลยุทธ์การแคช เครือข่าย หน่วยความจำ และการจัดตารางของระบบด้วยเช่นกัน

องค์กรควรใช้ตัวชี้วัดต้นทุนแบบใดในการเปรียบเทียบ SSD และ HDD?

องค์กรไม่ควรเปรียบเทียบ SSD และ HDD โดยดูจากราคาซื้อเพียงอย่างเดียว แต่ควรประเมินต้นทุนต่อ TB, ต้นทุนต่อ IOPS, การใช้พลังงาน, การทำความเย็น, ความหนาแน่นของแร็ก, การกู้คืนจากความเสียหาย, ค่าแรงในการดำเนินงาน, การย้ายถ่ายข้อมูล และการจัดการตลอดวงจรชีวิตด้วย สำหรับข้อมูลประสิทธิภาพสูงควรประเมินจากต้นทุนต่อประสิทธิภาพ ส่วนข้อมูลที่ไม่ค่อยมีการเรียกใช้ควรประเมินจากต้นทุนความจุในระยะยาว

นักลงทุนควรเข้าใจโอกาสในห่วงโซ่อุปทานของ SSD และ HDD ได้อย่างไร?

นักลงทุนสามารถประเมินโอกาสในห่วงโซ่อุปทานของ SSD และ HDD ได้โดยพิจารณาจากดีมานด์ของศูนย์ข้อมูล AI ราคา SSD สำหรับองค์กร วงจรอุปสงค์-อุปทานของ NAND ปริมาณการจัดส่ง nearline HDD งบลงทุนของบริษัทคลาวด์ และแนวโน้มรายได้ที่บริษัทแจ้งต่อนักลงทุน ราคาสินทรัพย์สามารถได้รับผลกระทบจากวัฏจักร การประเมินมูลค่า และความรู้สึกของตลาด ดังนั้นการเติบโตของดีมานด์ด้านเทคนิคไม่ได้รับประกันผลตอบแทนการลงทุน การตัดสินใจซื้อขายควรสอดคล้องกับระดับความเสี่ยงที่คุณยอมรับได้