HBM3E กับ HBM4 แตกต่างกันอย่างไร และมีความหมายอย่างไรต่อ Micron และเซิร์ฟเวอร์ AI?

ความแตกต่างระหว่าง HBM3E กับ HBM4 ไม่ได้มีเพียงแค่ว่า “รุ่นใหม่กว่าทำงานเร็วกว่า” เท่านั้น HBM3E คือข้อกำหนดความจำแบบแบนด์วิดท์สูงที่กำลังถูกนำมาใช้อย่างแพร่หลายใน AI GPU และเซิร์ฟเวอร์ AI ในปัจจุบัน โดยมุ่งแก้ไขข้อจำกัดด้านความจุและแบนด์วิดท์ของหน่วยความจำในงานฝึกฝน (training) และอนุมาน (inference) โมเดลขนาดใหญ่ในปัจจุบัน ในทางตรงกันข้าม HBM4 คือการอัปเกรดระดับแพลตฟอร์มสำหรับตัวเร่ง AI รุ่นถัดไป โดยมีการเปลี่ยนแปลงสำคัญ ได้แก่ อินเทอร์เฟซที่กว้างขึ้นเป็น 2048 บิต แบนด์วิดท์ต่อสแตกที่สูงขึ้น ความจุที่มากขึ้น การแพ็กเกจที่ซับซ้อนมากขึ้น และการออกแบบร่วมกับลูกค้าที่ลึกซึ้งยิ่งขึ้น สำหรับคุณแล้ว การเข้าใจการเปลี่ยนผ่านนี้จะช่วยให้เห็นชัดเจนถึงโอกาสของ Micron ในวงจรหน่วยความจำสำหรับ AI และเหตุผลที่เซิร์ฟเวอร์ AI ต้องเผชิญข้อจำกัดจากแบนด์วิดท์ของหน่วยความจำ พลังงาน และการแพ็กเกจขั้นสูงมากขึ้นเรื่อยๆ

ประเด็นสำคัญ

• HBM3E เป็นม้างานหลักของเซิร์ฟเวอร์ AI ในปัจจุบัน ในขณะที่ HBM4 มุ่งเป้าไปที่แพลตฟอร์มรุ่นถัดไป
• จุดอัปเกรดสำคัญของ HBM4 คืออินเทอร์เฟซที่กว้างขึ้น แบนด์วิดท์ที่สูงขึ้น และความจุที่มากขึ้น
• คอขวดของเซิร์ฟเวอร์ AI กำลังเปลี่ยนจากพลังการคำนวณเพียงอย่างเดียว ไปสู่หน่วยความจำ การแพ็กเกจ และการประสานงานด้านพลังงาน
• โอกาสของ Micron ขึ้นอยู่กับการขยายกำลังผลิต HBM3E การรับรอง HBM4 และสัดส่วน DRAM ระดับไฮเอนด์ที่หลากหลายยิ่งขึ้น
• การอัปเกรด HBM ไม่ได้รับประกันว่าหุ้นจะขึ้น; อัตราผลผลิต การกำหนดราคา การแข่งขัน และมูลค่าหุ้น ยังคงเป็นปัจจัยสำคัญ

ความแตกต่างหลักระหว่าง HBM3E และ HBM4 คืออะไร?

HBM3E ในวงจรเซิร์ฟเวอร์ AI ปัจจุบัน มีลักษณะเป็นเหมือน "ตัวเลือกกระแสหลักที่ประสิทธิภาพได้รับการปรับปรุง" ในขณะที่ HBM4 คือ "การอัปเกรดสถาปัตยกรรมหน่วยความจำ" สำหรับแพลตฟอร์ม AI รุ่นถัดไป หากมองเพียงแค่ชื่อรุ่นเจเนอเรชัน ก็ง่ายที่จะเข้าใจผิดว่า HBM4 เป็นเพียงเวอร์ชันที่เร็วขึ้นของ HBM3E แต่ในความเป็นจริง ความแตกต่างที่แท้จริงอยู่ที่ความกว้างของอินเทอร์เฟซ จำนวนแชนเนล ความสามารถในการซ้อนกัน และการออกแบบระบบ ตามมาตรฐาน JEDEC HBM4 HBM4 รองรับอินเทอร์เฟซแบบ 2048 บิต ความเร็วในการถ่ายโอนข้อมูลสูงสุดถึง 8Gb/s และเพิ่มจำนวนแชนเนลอิสระต่อสแตกจาก 16 ใน HBM3 เป็น 32

คุณค่าของ HBM มาจากการวางหน่วยความจำให้ใกล้ชิดกับหน่วยประมวลผลมากขึ้น หน่วยความจำเซิร์ฟเวอร์แบบดั้งเดิมมักเชื่อมต่อกับ CPU หรือตัวเร่งปฏิกิริยาผ่านเส้นทางข้อมูลที่ค่อนข้างยาว ส่วน HBM ใช้เทคโนโลยีการบรรจุแบบ 2.5D ตัวกลางซิลิกอน (silicon interposer) ทรู-ซิลิคอน เวีย (through-silicon vias) และชั้น DRAM แบบซ้อนกัน เพื่อวางหน่วยความจำจำนวนมากไว้ข้าง AI GPU หรือตัวเร่ง AI โดยเป้าหมายไม่ได้มีเพียงแค่การเพิ่มความจุเท่านั้น แต่ยังรวมถึงการถ่ายโอนน้ำหนักโมเดล (model weights) ค่าการกระตุ้น (activations) KV cache และข้อมูลการฝึกฝนเข้าสู่หน่วยประมวลผลได้รวดเร็วยิ่งขึ้น ซึ่งช่วยลดเวลารอคอยที่เกิดจากการเคลื่อนย้ายข้อมูล

HBM3E มุ่งเน้นการปรับปรุงแบนด์วิดท์ ความจุ และประสิทธิภาพด้านพลังงานบนพื้นฐานของ HBM3 ตัวอย่างเช่น Micron HBM3E มีให้เลือกในรูปแบบ 8-high ความจุ 24GB และ 12-high ความจุ 36GB โดยมีแบนด์วิดท์ต่อสแตกมากกว่า 1.2TB/s จึงเหมาะสำหรับแพลตฟอร์ม AI GPU ที่อยู่ในขั้นตอนการผลิตและการใช้งานจริงแล้ว ช่วยแก้ปัญหาว่าเซิร์ฟเวอร์ในปัจจุบันจะรองรับโมเดลที่ใหญ่ขึ้น ทำงานเร็วขึ้น และควบคุมการใช้พลังงานได้อย่างไร

HBM4 ก้าวไปอีกขั้นหนึ่ง โดยไม่ได้เพียงแค่ทำให้ชั้นความจำแต่ละชั้นเร็วขึ้น แต่ต้องการให้ GPU รุ่นถัดไป ตัวควบคุมหน่วยความจำ ซับสเตรตสำหรับบรรจุภัณฑ์ และระบบเชื่อมต่อสารพัดระบบ ได้รับการออกแบบใหม่ร่วมกัน กล่าวอีกนัยหนึ่ง การแพร่กระจายเชิงพาณิชย์ของ HBM4 มักผูกอยู่กับแผนงานของตัวเร่ง AI รุ่นถัดไป แทนที่จะทำหน้าที่เป็นส่วนแทนที่สามารถเสียบได้ทันทีเหมือนโมดูลความจำมาตรฐาน

สรุป: ความแตกต่างระหว่าง HBM3E กับ HBM4 ไม่ควรถูกทำให้เข้าใจง่ายเกินไปว่าเป็นเพียง "สเปกเก่ากับสเปกใหม่" HBM3E คือสเปกความจำหลักในวงจรการขยายตัวของเซิร์ฟเวอร์ AI ในปัจจุบัน ซึ่งแบกรับแรงกดดันด้านแบนด์วิดท์และความจุของการฝึกฝน (training) และการอนุมาน (inference) ของโมเดลขนาดใหญ่อยู่แล้ว ส่วน HBM4 คือก้าวสำคัญในการออกแบบระบบความจำใหม่สำหรับแพลตฟอร์ม AI รุ่นถัดไป ในการประเมินคุณค่าของทั้งสองอย่าง จำเป็นต้องมองทั้งสเปกทางเทคนิค การรับรองแพลตฟอร์ม กำหนดการผลิต และกำลังการผลิตด้านการบรรจุ (packaging) ควบคู่กันไป แทนที่จะเน้นเพียงแบนด์วิดท์สูงสุดเท่านั้น

HBM3E กับ HBM4 เปรียบเทียบกันด้านสเปกอย่างไร? แบนด์วิดท์ ความจุ พลังงาน และการบรรจุ (Packaging) คือสิ่งที่สำคัญที่สุด

ความแตกต่างโดยตรงที่สุดระหว่าง HBM3E และ HBM4 ได้แก่ แบนด์วิดท์ต่อสแตก ความกว้างของอินเทอร์เฟซ ความจุ ความสูงของสแตก และประสิทธิภาพการใช้พลังงาน HBM3E ตอบโจทย์ความต้องการในการใช้งานขนาดใหญ่ของ GPU AI ระดับไฮเอนด์ในปัจจุบันแล้ว ในขณะที่ HBM4 ผลักดันความสามารถในการจ่ายข้อมูลของสแตก HBM แต่ละตัวให้สูงขึ้นไปอีกผ่านอินเทอร์เฟซแบบ 2048 บิต ความเร็วพินที่สูงขึ้น และช่องทาง (channel) ที่มากขึ้น สำหรับเซิร์ฟเวอร์ AI สิ่งนี้หมายความว่าโมเดลขนาดใหญ่ขึ้น บริบทที่ยาวขึ้น และการอนุมาน (inference) ที่มีความพร้อมกันสูงขึ้น จะสามารถใช้แบนด์วิดท์หน่วยความจำที่เพียงพอมากขึ้นได้

จากสเปกที่เปิดเผยต่อสาธารณะ HBM3E นั้นอยู่เหนือกว่า DRAM แบบดั้งเดิมและหน่วยความจำประเภท GDDR ไปมากแล้ว NVIDIA H200 มาพร้อม HBM3e ขนาด 141GB พร้อมแบนด์วิดท์หน่วยความจำ 4.8TB/s และ NVIDIA วางตำแหน่งให้เป็นการอัปเกรดสถาปัตยกรรม Hopper สำหรับ generative AI และโมเดลภาษาขนาดใหญ่ ส่วนในรุ่น Blackwell Ultra NVIDIA Blackwell Ultra สามารถรองรับ HBM3e ได้ถึง 288GB ต่อ GPU ซึ่งแสดงให้เห็นว่า HBM3E ยังคงเป็นการกำหนดค่าสำคัญในแพลตฟอร์มระดับไฮเอนด์ปัจจุบัน ไม่ใช่เพียงผลิตภัณฑ์เปลี่ยนผ่านชั่วคราว

การปรับปรุงของ HBM4 นั้นก้าวรุนแรงกว่ามาก Micron ได้เปิดเผยว่า HBM4 36GB 12H ของตน ซึ่งออกแบบมาสำหรับ NVIDIA Vera Rubin นั้น ให้แบนด์วิดท์ต่อสแต็กมากกว่า 2.8TB/s และมีประสิทธิภาพด้านพลังงานที่ดีกว่า HBM3E ที่มีความจุและความสูงของสแต็กเท่ากัน Samsung ก็ได้เปิดเผยเช่นกันว่า Samsung HBM4 ใช้ชิปฐานแบบลอจิกกระบวนการ 4nm และเน้นความเร็วในการถ่ายโอนที่เสถียรที่ 11.7Gbps ซึ่งแสดงให้เห็นว่า HBM4 ได้เข้าสู่สมรภูมิหลักของการแข่งขันในหมู่ผู้ผลิตหน่วยความจำแล้ว

แบนด์วิดท์ที่สูงขึ้นไม่ได้แปลว่าต้นทุนต่ำลงโดยอัตโนมัติ HBM4 ต้องการชิปเบสไดที่ซับซ้อนยิ่งขึ้น การซ้อนทับที่แม่นยำมากขึ้น ความสมบูรณ์ของสัญญาณที่เข้มงวดยิ่งขึ้น การออกแบบระบายความร้อนที่แข็งแกร่งยิ่งขึ้น และการพึ่งพาทรัพยากรการแพ็กเกจระดับสูงมากขึ้น สำหรับลูกค้าคลาวด์ สิ่งที่กังวลจริง ๆ คือต้นทุนต่อโทเคน ทรูพุต พลังงานระดับแร็ค และเวลาในการส่งมอบ สำหรับผู้ผลิตหน่วยความจำ ความท้าทายที่แท้จริงคือการผลิตผลิตภัณฑ์ที่มีสเปกสูงอย่างน่าเชื่อถือและผ่านการตรวจสอบบนแพลตฟอร์มของลูกค้า

สรุป: ข้อได้เปรียบด้านสเปกของ HBM4 นั้นชัดเจน: อินเทอร์เฟซที่กว้างขึ้น แบนด์วิดท์ที่สูงขึ้น ช่องทาง (channel) ที่มากขึ้น และเพดานความจุที่ใหญ่กว่า แต่ไม่ควรตัดสินคุณค่าของ HBM4 จากตัวเลขสูงสุดเพียงอย่างเดียว เซิร์ฟเวอร์ AI ต้องการการผลิตจำนวนมากที่เสถียร การใช้พลังงานที่ควบคุมได้ อัตราผลผลิตที่เพียงพอ และความเข้ากันได้เต็มรูปแบบกับแพลตฟอร์มระบบทั้งหมด HBM3E ยังคงเป็นสเปกของหน่วยความจำที่สำคัญในเซิร์ฟเวอร์ AI กระแสหลักในปัจจุบัน ในขณะที่ HBM4 เป็นตัวแทนของเพดานประสิทธิภาพและเกราะป้องกันห่วงโซ่อุปทานของแพลตฟอร์มยุคถัดไป

เหตุใดเซิร์ฟเวอร์ AI จึงพึ่งพา HBM มากขึ้นเรื่อยๆ? จากการเทรนสู่การอนุมานและบริบทยาว

เซิร์ฟเวอร์ AI กำลังพึ่งพา HBM มากขึ้น เนื่องจากคอขวดของโมเดลขนาดใหญ่ไม่ได้อยู่ที่พลังการคำนวณของ GPU เพียงอย่างเดียวอีกต่อไป การฝึกฝน (Training) ต้องการการเข้าถึง weights, activations, gradients และ optimizer states ที่รวดเร็ว ส่วนการอนุมาน (Inference) ต้องการการเข้าถึง model weights และ KV cache บ่อยครั้ง การประมวลผลบริบทที่ยาว อินพุตแบบมัลติโมดัล และคำขอที่มีความพร้อมกันสูง ยิ่งเพิ่มความกดดันต่อหน่วยความจำมากขึ้นไปอีก HBM3E ตอบโจทย์ความต้องการแบนด์วิดท์ของหน่วยความจำสำหรับแพลตฟอร์มในปัจจุบัน ขณะที่ HBM4 ถูกออกแบบมาเพื่อรองรับโมเดลที่ใหญ่ขึ้นและทรูพุตที่สูงขึ้นในรุ่นถัดไป

ในการฝึกโมเดล GPU ต้องป้อนข้อมูลเข้าสู่หน่วยคำนวณเมทริกซ์อย่างต่อเนื่อง หากแบนด์วิดท์หน่วยความจำไม่สามารถตามทัน หน่วยคำนวณจะต้องรอ และแม้แต่พลังการคำนวณเชิงทฤษฎีที่สูงมากก็ไม่สามารถนำมาใช้ได้อย่างเต็มที่ ในการฝึกแบบกระจายขนาดใหญ่ ความจุและแบนด์วิดท์ของหน่วยความจำส่งผลต่อขนาดแบตช์ ความถี่ในการสื่อสาร ประสิทธิภาพการซิงโครไนซ์เกรเดียนต์ และว่าจำเป็นต้องถ่ายโอนข้อมูลข้าม GPU บ่อยเพียงใด คุณค่าของ HBM คือการลดปัญหาการเคลื่อนย้ายข้อมูลที่ทำให้การคำนวณช้าลง

ในการอนุมาน (inference) ความสำคัญของ HBM ยิ่งโดดเด่นกว่านั้น บริบทที่ยาวขึ้นทำให้การใช้งาน KV cache เพิ่มขึ้นเมื่อความยาวของอินพุตและจำนวนคำขอพร้อมกันสูงขึ้น หากบริการ AI จำเป็นต้องประมวลผลคำขอจากผู้ใช้จำนวนมากในเวลาเดียวกัน ปริมาณ context cache ที่ GPU หนึ่งตัวสามารถรองรับได้และความเร็วในการอ่านน้ำหนักโมเดล (model weights) ล้วนส่งผลต่อจำนวน tokens ต่อวินาทีและเวลารอของผู้ใช้ แพลตฟอร์ม NVIDIA Rubin อธิบายถึง HBM4 ขนาด 288GB ของ Rubin GPU, LPDDR5X ของ Vera CPU และ NVLink-C2C coherent memory ภายในสถาปัตยกรรมระบบเดียวกัน ซึ่งแสดงให้เห็นว่าเซิร์ฟเวอร์ AI รุ่นถัดไปกำลังเปลี่ยนจากประสิทธิภาพระดับชิปเดี่ยวไปสู่การประสานงานหน่วยความจำระดับระบบ

HBM ส่งผลกระทบต่อส่วนต่าง ๆ ของเซิร์ฟเวอร์ AI ดังนี้:

1. ความเร็วในการอ่านน้ำหนักโมเดล (model weights)
2. ความจุ KV cache สำหรับบริบทยาว
3. ปริมาณงานการอนุมาน (inference) ที่ความเชื่อมต่อสูง
4. ประสิทธิภาพการเคลื่อนย้ายข้อมูลระหว่างการฝึกฝน
5. การใช้งาน GPU และเวลาที่ว่าง
6. พลังงาน การระบายความร้อน และความหนาแน่นในการติดตั้งระดับแร็ก
7. ต้นทุนต่อโทเคน และ TCO ของลูกค้าคลาวด์

HBM ยังส่งผลต่อโปรไฟล์การใช้พลังงานของศูนย์ข้อมูล AI ด้วย หากแบนด์วิดท์ที่สูงขึ้นนำมาซึ่งการใช้พลังงานที่เพิ่มขึ้น ค่าใช้จ่ายในการระบายความร้อนของเซิร์ฟเวอร์และค่าไฟฟ้าก็จะสูงขึ้นตามไปด้วย แต่หากประสิทธิภาพด้านพลังงานดีขึ้นอย่างมีนัยสำคัญ ภาระด้านพลังงานต่อภารกิจการประมวลผลแต่ละงานก็อาจลดลงได้ ดังนั้นการแข่งขันด้านชิปหน่วยความจำจึงไม่ได้เกี่ยวข้องกับราคา DRAM เพียงอย่างเดียวอีกต่อไป แต่ตอนนี้มีความเชื่อมโยงกับต้นทุนการประมวลผล AI ความหนาแน่นของแร็ก และการวางแผนด้านพลังงานของศูนย์ข้อมูล

สรุป: เซิร์ฟเวอร์ AI ต้องพึ่งพา HBM เนื่องจากการฝึกและการอนุมาน (inference) ของโมเดลขนาดใหญ่กำลังเจอกับ "กำแพงหน่วยความจำ" มากขึ้นเรื่อย ๆ GPU สามารถมอบความสามารถในการประมวลผลขนานใจมหาศาลได้ แต่น้ำหนักโมเดล (model weights), แคช และผลลัพธ์ระหว่างกาลจะต้องถูกส่งเข้าสู่หน่วยประมวลผลได้อย่างรวดเร็ว HBM3E มอบความจุหน่วยความจำและแบนด์วิดท์ที่สูงขึ้นให้แก่แพลตฟอร์ม AI ในปัจจุบัน ขณะที่ HBM4 ยกเพดานนี้ขึ้นไปอีกขั้นสำหรับการอนุมานแบบบริบทยาว, มัลติโมดัล และผู้ใช้งานพร้อมกันจำนวนมาก การแข่งขันของเซิร์ฟเวอร์ AI ในอนาคตจะเป็นการแข่งขันแบบผสมผสานระหว่างการประมวลผล หน่วยความจำ เครือข่าย พลังงาน และการบรรจุชิป (packaging) มากขึ้นเรื่อย ๆ

HBM4 หมายความว่าอย่างไรต่อ Micron? โอกาสอยู่ที่การรับรองจากลูกค้า กำลังการผลิต และอัตรากำไร

สำหรับ Micron แล้ว HBM4 ไม่ใช่แค่ผลิตภัณฑ์หน่วยความจำชนิดใหม่อีกชนิดหนึ่ง แต่เป็นการทดสอบว่า Micron สามารถครองตำแหน่งที่มีมูลค่าสูงขึ้นในห่วงโซ่อุปทานเซิร์ฟเวอร์ AI ได้หรือไม่ DRAM ทั่วไปมีความเสี่ยงต่อวัฏจักรราคามากกว่า ขณะที่ HBM ขึ้นอยู่กับการออกแบบร่วมกับลูกค้า การรับรองแพลตฟอร์ม การบรรจุขั้นสูง และความสามารถในการจัดหาในระยะยาวมากกว่า หาก Micron สามารถพัฒนาต่อจากการขยายการผลิต HBM3E สู่แพลตฟอร์ม HBM4 กระแสหลักได้ ก็อาจช่วยปรับปรุงโครงสร้างผลิตภัณฑ์ คุณภาพรายได้ และศักยภาพด้านอัตรากำไรขั้นต้นของบริษัทได้

Micron ในอดีตไม่เคยเป็นผู้นำส่วนแบ่งตลาด DRAM ที่ใหญ่ที่สุด แต่ก็ได้รับความสนใจมากขึ้นในยุค HBM3E เหตุผลคือ HBM ไม่ใช่ผลิตภัณฑ์หน่วยความจำระดับล่างที่มีมาตรฐานสูง มันต้องการการประสานงานอย่างลึกซึ้งกับผู้ผลิต GPU คู่ค้าด้านการบรรจุภัณฑ์ และลูกค้าคลาวด์ เมื่อผลิตภัณฑ์ผ่านการรับรองจากลูกค้าสำคัญแล้ว ต้นทุนในการเปลี่ยนผู้จำหน่าย รอบการตรวจสอบความถูกต้อง และความเสถียรของอุปทานจะช่วยกระชับความสัมพันธ์กับลูกค้าให้แน่นแฟ้นขึ้น สำหรับ Micron การเพิ่มกำลังการผลิต HBM3E คือก้าวแรกในการเข้าสู่วงจรหน่วยความจำ AI; ส่วน HBM4 คือบททดสอบสำคัญสำหรับการแข่งขันของแพลตฟอร์มรุ่นถัดไป

โอกาสนี้มีสามมิติหลัก ประการแรก HBM มีมูลค่าต่อหน่วยสูงกว่า DRAM ทั่วไป ซึ่งช่วยปรับปรุงโครงสร้างผลิตภัณฑ์ได้ ประการที่สอง หากความต้องการเซิร์ฟเวอร์ AI ยังคงเติบโตต่อไป อุปทาน HBM อาจยังคงค่อนข้างตึงตัว ประการที่สาม เมื่อ HBM4 ถูกผูกไว้กับแพลตฟอร์ม GPU รุ่นถัดไป ผู้ผลิตหน่วยความจำจะไม่ได้เพียงขายหน่วยความจำเท่านั้น แต่ยังมีส่วนร่วมในการออกแบบแพลตฟอร์มด้วย

ความเสี่ยงก็ชัดเจนเช่นกัน การนำเสนอสเปกของ HBM4 ที่โดดเด่นไม่ได้การันตีส่วนแบ่งตลาด มีช่องว่างเวลาระหว่างการส่งตัวอย่างผลิตภัณฑ์ การรับรองคุณสมบัติ การผลิตจำนวนมาก และการรับรู้รายได้ SK hynix ครองความได้เปรียบผู้มาก่อนในด้าน HBM มาอย่างยาวนาน และการรายงานของ Reuters เกี่ยวกับ SK hynix HBM ชี้ให้เห็นว่า HBM ได้เปลี่ยนแปลงภูมิทัศน์การแข่งขันระหว่างผู้ผลิตหน่วยความจำเกาหลี Samsung ก็กำลังเร่งพัฒนาใน HBM4 และ HBM4E เช่นกัน ดังนั้นการแข่งขันจะไม่จบลงด้วยการประกาศผลิตภัณฑ์เพียงรุ่นเดียว

สำหรับนักลงทุนแล้ว เรื่องราว HBM ของ Micron ไม่ควรถูกลดทอนให้เหลือเพียงคำถามว่า “มี HBM4 หรือไม่” คำถามที่สำคัญกว่านั้นคือ: รายได้จาก HBM เพิ่มขึ้นในสัดส่วนของรายได้รวมหรือไม่? อัตรากำไรขั้นต้นดีขึ้นตามไปด้วยหรือไม่? การใช้จ่ายด้านทุนอยู่ภายใต้การควบคุมหรือไม่? คำสั่งซื้อจากลูกค้ามีความมั่นคงเพียงพอหรือไม่? วงจรสินค้าคงคลัง DRAM ประเภทสินค้าโภคภัณฑ์ยังคงฉุดรอนการประเมินมูลค่าอยู่หรือไม่? ตัวชี้วัดเหล่านี้ร่วมกันกำหนดว่า HBM จะสามารถเปลี่ยนแปลงลักษณะธุรกิจที่ผันผวนตามวัฏจักรของ Micron ได้อย่างมีนัยสำคัญหรือไม่

สรุป: โอกาสหลักที่ HBM4 มอบให้ Micron คือโอกาสในการยกระดับจากวงจรธุรกิจหน่วยความจำแบบดั้งเดิม เข้าสู่ห่วงโซ่อุปทานหน่วยความจำ AI ที่มีมูลค่าสูง แต่โอกาสไม่เท่ากับผลตอบแทนที่การันตีได้ Micron ยังคงต้องพิสูจน์ว่าสามารถผลิตได้อย่างเชื่อถือได้ ผ่านการรับรองจากลูกค้าหลัก ควบคุมต้นทุน และเปลี่ยนยอดจัดส่ง HBM ให้กลายเป็นรายได้ อัตรากำไรขั้นต้น และการปรับปรุงกระแสเงินสด การวิเคราะห์ Micron จำเป็นต้องมองด้านเทคโนโลยี ลูกค้า กำลังการผลิต งบการเงิน และมูลค่าหลักทรัพย์เข้าด้วยกัน มากกว่าที่จะตอบสนองต่อข่าว HBM4 เพียงอย่างเดียว

HBM4 จะเปลี่ยนแปลงห่วงโซ่อุปทานเซิร์ฟเวอร์ AI อย่างไร? GPU บรรจุภัณฑ์ หน่วยความจำ และศูนย์ข้อมูลจะเคลื่อนไหวไปพร้อมกัน

HBM4 จะขยายผลกระทบจากชิปหน่วยความจำไปสู่ห่วงโซ่อุปทานเซิร์ฟเวอร์ AI ทั้งหมด HBM4 ไม่ใช่ส่วนประกอบสำเร็จรูปที่ติดตั้งลงบนเมนบอร์ด แต่ถูกออกแบบร่วมกับ GPU, base die, silicon interposer, บรรจุภัณฑ์แบบ 2.5D, การทดสอบ, ระบบระบายความร้อน และระบบเซิร์ฟเวอร์แบบครบวงจร การแข่งขันด้านเซิร์ฟเวอร์ AI รุ่นถัดไปจะต้องพึ่งพาความสามารถในการรักษาโหนดกระบวนการผลิตขั้นสูง อุปทาน HBM กำลังการผลิตบรรจุภัณฑ์คล้าย CoWoS และความสามารถในการส่งมอบศูนย์ข้อมูลไปพร้อมกันมากขึ้นเรื่อยๆ

จากมุมมองการออกแบบ GPU, HBM4 ต้องการการประสานงานระหว่างหน่วยประมวลผลและหน่วยความจำที่ลึกซึ้งยิ่งขึ้น อินเทอร์เฟซที่กว้างขึ้นหมายถึงการกำหนดเส้นทางภายในแพ็กเกจที่ซับซ้อนมากขึ้น ความท้าทายด้านความสมบูรณ์ของสัญญาณที่มากขึ้น และการจัดการพลังงานที่ยากลำบากยิ่งขึ้น ผู้ผลิตตัวเร่ง AI ต้องสร้างสมดุลระหว่างหน่วยประมวลผล ตัวควบคุมหน่วยความจำ การเชื่อมต่อระหว่างชิป และเลย์เอาต์ของแพ็กเกจ หากแบนด์วิดท์ที่สูงขึ้นของ HBM4 ไม่ได้รับการใช้ประโยชน์อย่างเต็มที่จากสแตกซอฟต์แวร์ ระบบการจัดกำหนดการ และการเชื่อมต่อเครือข่าย แบนด์วิดท์สูงสุดอาจไม่แปลเป็นทรูพุตในโลกจริงได้อย่างเต็มที่

จากมุมมองของห่วงโซ่อุปทานบรรจุภัณฑ์ HBM4 จะยังคงขยายคอขวดของการบรรจุขั้นสูงต่อไป รายงานของ TrendForce เกี่ยวกับ TSMC CoWoS ระบุถึงการขยายตัวอย่างรวดเร็วของกำลังการผลิตบรรจุภัณฑ์ขั้นสูง CoWoS ซึ่งขับเคลื่อนโดยความต้องการ AI สิ่งนี้แสดงให้เห็นว่าอุปทาน HBM ไม่ได้ขึ้นอยู่กับเวเฟอร์ DRAM เพียงอย่างเดียว แต่ยังรวมถึงอินเตอร์โพสเซอร์ ซับสเตรต การบรรจุ การทดสอบ และการส่งมอบระบบขั้นสุดท้ายด้วย บริษัท ASE และผู้ให้บริการ OSAT รายอื่นๆ ก็กำลังขยายกำลังการผลิตบรรจุภัณฑ์ขั้นสูงและการทดสอบที่เกี่ยวข้องกับ AI เช่นกัน และรายงานของ Reuters เกี่ยวกับกำลังการผลิตของ ASE สะท้อนแนวโน้มนี้

HBM4 อาจส่งผลให้เกิดการเปลี่ยนแปลงในหลายส่วนของห่วงโซ่อุปทาน ดังนี้:

• ผู้ผลิตหน่วยความจำ: ผลผลิต HBM, ความสูงของสแตก และช่วงเวลาการจัดส่ง
• ผู้ผลิต GPU: ตัวควบคุมหน่วยความจำ ระบบเชื่อมต่อสื่อสาร และสถาปัตยกรรมแพลตฟอร์ม
• ผู้ผลิตเวเฟอร์ (Foundries): ไดเพื่อนพื้นฐาน, ไดเพื่อนตรรกะ และกำลังการผลิตกระบวนการโหนดขั้นสูง
• บริษัทบรรจุภัณฑ์เซมิคอนดักเตอร์: การบรรจุแบบ 2.5D, อินเทอร์โพสเซอร์ และความสามารถในการทดสอบ
• ผู้ผลิตเซิร์ฟเวอร์: ระบบระบายความร้อน การจ่ายไฟ และความหนาแน่นของแร็ค
• ลูกค้าคลาวด์: รอบการจัดซื้อ กำลังการส่งมอบ และต้นทุนต่อการอนุมาน (inference)

ตรรกะการจัดซื้อจัดจ้างของศูนย์ข้อมูลจะเปลี่ยนไปด้วยเช่นกัน ลูกค้าคลาวด์จะไม่เปรียบเทียบแค่ประสิทธิภาพสูงสุดของ GPU อีกต่อไป แต่จะมองไปที่จำนวนโทเคนที่ประมวลผลได้ต่อหนึ่งวัตต์ จำนวนตัวเร่งปฏิกิริยาที่สามารถใส่ได้ในแร็กเดียว ว่าระบบระบายความร้อนด้วยของเหลวจะเป็นรุ่นสุกงอมเพียงพอหรือไม่ และกำหนดการส่งมอบที่เชื่อถือได้หรือไม่ หาก HBM4 ช่วยเพิ่มทรูพุตแต่เพิ่มแรงกดดันด้านการบรรจุหรือพลังงาน ต้นทุนรวม (TCO) ของเซิร์ฟเวอร์โดยรวมก็ยังคงถูกจำกัดได้

สรุป: HBM4 ไม่ใช่เพียงการอัปเกรดหน่วยความจำที่แยกออกมาโดดเดี่ยว แต่เป็นสัญญาณว่าการแข่งขันด้านระบบเซิร์ฟเวอร์ AI กำลังเข้าสู่ขั้นตอนใหม่ ซึ่งจะส่งผลกระทบต่อการออกแบบ GPU, การบรรจุขั้นสูง (advanced packaging), ระบบเซิร์ฟเวอร์ทั้งหมด, การระบายความร้อน, พลังงาน และจังหวะการจัดซื้อของผู้ให้บริการคลาวด์ สำหรับบริษัทในห่วงโซ่อุปทาน โอกาสต่าง ๆ ไม่ได้จำกัดอยู่เพียงแค่ DRAM แต่ยังขยายไปสู่การบรรจุชิป การทดสอบ ซับสเตรต ระบบระบายความร้อนแบบเหลว และโครงสร้างพื้นฐานด้านพลังงาน สำหรับนักลงทุน การติดตาม HBM4 หมายถึงการมองไม่เพียงแค่ Micron แต่ยังรวมถึง NVIDIA, AMD, SK hynix, Samsung, TSMC และการประสานงานของ ODM ผู้ผลิตเซิร์ฟเวอร์ด้วย

นักลงทุนทั่วไปควรประเมินมูลค่าการลงทุนและความเสี่ยงของการเปลี่ยนผ่านจาก HBM3E ไปสู่ HBM4 อย่างไร?

นักลงทุนทั่วไปไม่ควรเทียบเคียงการเปลี่ยนผ่านจาก HBM3E ไปสู่ HBM4 ว่าเป็นการเพิ่มขึ้นของราคาหุ้นโดยอัตโนมัติ กรอบแนวคิดที่มีวินัยมากขึ้นมีสามขั้นตอน: ประการแรก ตรวจสอบว่าเทคโนโลยีนั้นกลายเป็นการรับรองจากลูกค้าและคำสั่งซื้อจำนวนมากหรือไม่ ประการที่สอง ตรวจสอบว่าคำสั่งซื้อเหล่านั้นกลายเป็นรายได้ อัตรากำไรขั้นต้น และกระแสเงินสดหรือไม่ ประการที่สาม ตรวจสอบว่ามูลค่าหลักทรัพย์ได้ตั้งราคาตามความคาดหวังที่ optimism ไว้แล้วหรือไม่ HBM เป็นหนึ่งในผู้ได้ประโยชน์หลักจากเซิร์ฟเวอร์ AI แต่ยังคงได้รับผลกระทบจากวงจรราคา การแข่งขัน การลงทุนด้านทุน และการพึ่งพาลูกค้าเพียงไม่กี่ราย

ขั้นตอนแรกคือการพิจารณาว่าเทคโนโลยีนี้ได้รับการทำให้เป็นการค้าจริงหรือไม่ การประกาศผลิตภัณฑ์ ตัวอย่างสินค้า การรับรองจากลูกค้า การจัดส่งในปริมาณมาก และการรับรู้รายได้ ล้วนเป็นขั้นตอนที่แตกต่างกัน สเปกของ HBM4 มีความสำคัญ แต่สิ่งที่สำคัญกว่าคือผลิตภัณฑ์จะเข้าสู่แพลตฟอร์ม AI GPU กระแสหลักหรือไม่ อุปทานจะมีเสถียรภาพหรือไม่ และจะปรากฏในผลงานทางการเงินในรูปแบบรายได้มูลค่าสูงหรือไม่ สำหรับบริษัทหน่วยความจำอย่าง Micron นักลงทุนจำเป็นต้องแยกแยะระหว่าง "ข่าวด้านเทคโนโลยี" กับ "ผลักดันเชิงการเงิน"

ขั้นตอนที่สองคือการประเมินว่ารายได้สามารถกลายเป็นกำไรได้หรือไม่ HBM มีมูลค่าต่อหน่วยที่สูงกว่า แต่ต้นทุนการผลิตก็สูงเช่นกัน ซึ่งเกี่ยวข้องกับการบรรจุแบบกองซ้อนสูง การบรรจุขั้นสูง การทดสอบ และการเพิ่มอัตราผลผลิต หากอัตราผลผลิตไม่เสถียร หรือหากค่าใช้จ่ายลงทุนและค่าเสื่อมราคาเพิ่มขึ้นเร็วเกินไป รายได้ที่สูงขึ้นอาจไม่แปลเป็นกระแสเงินสดอิสระที่แข็งแกร่งได้ทันที อุตสาหกรรมหน่วยความจำในอดีตแสดงให้เห็นรูปแบบที่มูลค่าหลักทรัพย์ขยายตัวเมื่อความคาดหวังสูงขึ้น และหดตัวเมื่อราคาอ่อนแอลง HBM อาจช่วยปรับปรุงโครงสร้างให้ดีขึ้น แต่ไม่น่าจะขจัดลักษณะความผันผวนตามวัฏจักรได้อย่างสมบูรณ์

ขั้นตอนที่สามคือการประเมินว่ามูลค่าหลักทรัพย์ (valuation) ได้สะท้อนความคาดหวังไปแล้วหรือไม่ หุ้นหน่วยความจำ AI ที่ได้รับความนิยมมักถูกซื้อขายโดยคาดการณ์ล่วงหน้าถึงคำสั่งซื้อในอนาคต อัตรากำไรขั้นต้นในอนาคต และส่วนแบ่งแพลตฟอร์มในอนาคต เมื่อตลาดได้ตั้งราคาในความสำเร็จของการนำ HBM4 มาใช้ ความตึงตัวของอุปทาน และการปรับปรุงอัตรากำไรไปแล้ว ความล่าช้าใดๆ ในการผลิตจริง ส่วนแบ่งลูกค้าที่ต่ำกว่าคาด หรือราคาหน่วยความจำที่อ่อนแอ ก็สามารถก่อให้เกิดความผันผวนได้

หากคุณติดตาม Micron, NVIDIA, เซิร์ฟเวอร์ AI หรือ ETF กลุ่มเซมิคอนดักเตอร์ คุณยังจำเป็นต้องพิจารณาค่าธรรมเนียมในการดำเนินการซื้อขายนอกเหนือจากแผนที่นำทางด้านเทคโนโลยีด้วย ค่าธรรมเนียมการซื้อขายหุ้นสหรัฐฯ มักไม่ได้รวมเพียงค่าคอมมิชชันเท่านั้น แต่ยังอาจรวมถึงค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมสถาบันภายนอก ค่าธรรมเนียมกิจกรรมการซื้อขาย ค่าธรรมเนียมคำสั่งซื้อหุ้นย่อยส่วน (fractional share) และค่าธรรมเนียมแลกเปลี่ยนเงินตรา ผู้ใช้ที่มีสิทธิ์สามารถตรวจสอบค่าธรรมเนียมการซื้อขายหุ้นสหรัฐฯ ของ Biya ได้ โดย Biya ไม่เก็บค่าคอมมิชชันการซื้อขายหุ้นสหรัฐฯ ส่วนค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมสถาบันภายนอก และค่าใช้จ่ายอื่น ๆ ขึ้นอยู่กับศูนย์ค่าธรรมเนียมและหน้าคำสั่งซื้อ ข้อมูลตลาดสาธารณะและโครงสร้างค่าธรรมเนียมมีไว้เพื่ออ้างอิงก่อนการซื้อขายเท่านั้น และไม่ถือเป็นคำแนะนำการลงทุนความพร้อมใช้งานของบริการขึ้นอยู่กับที่ตั้งของผู้ใช้ ผลการตรวจสอบตัวตน กฎเกณฑ์ของแพลตฟอร์ม รวมถึงกฎหมายและข้อบังคับที่เกี่ยวข้อง

สรุป: การเปลี่ยนผ่านจาก HBM3E ไปสู่ HBM4 เป็นสิ่งที่ควรติดตาม แต่การวิเคราะห์เพื่อการลงทุนต้องกลับมาที่การแปลงเป็นเชิงพาณิชย์และมูลค่าหุ้น ความเป็นผู้นำทางเทคนิคต้องได้รับการตรวจสอบผ่านการรับรองจากลูกค้า การผลิตที่มั่นคง และรายงานการเงิน การเติบโตของรายได้ยังคงขึ้นอยู่กับอัตราผลผลิต ราคา ต้นทุน และรายจ่ายด้านเงินทุน ผลการดำเนินงานของหุ้นได้รับอิทธิพลจากช่องว่างของความคาดหวัง HBM เป็นตัวแปรสำคัญในห่วงโซ่อุปทานเซิร์ฟเวอร์ AI แต่นักลงทุนทั่วไปควรประเมินร่วมกับระดับความเสี่ยงที่ยอมรับได้ โครงสร้างพอร์ตการลงทุน ต้นทุนการซื้อขาย และวงจรตลาด

หากคุณติดตาม HBM3E, HBM4, Micron, NVIDIA เซิร์ฟเวอร์ AI และห่วงโซ่อุปทานสารกึ่งตัวนำอย่างต่อเนื่อง การดูประกาศทางเทคนิคเพียงอย่างเดียวยังไม่เพียงพอ คุณยังต้องสังเกตรายงานผลประกอบการ คำสั่งซื้อ ความผันผวนของหุ้น การเปลี่ยนแปลงของอัตราแลกเปลี่ยน และต้นทุนการซื้อขายภายใต้กรอบเดียวกัน คุณสามารถใช้ Biya เพื่อติดตามหุ้นสหรัฐฯ และฮ่องกงที่เกี่ยวข้อง และใช้ ข้อมูลหุ้นสหรัฐฯ เพื่อติดตามข้อมูลตลาดสาธารณะของบริษัทในห่วงโซ่อุปทานสารกึ่งตัวนำ เซิร์ฟเวอร์ AI และหน่วยความจำ หากภูมิภาคของคุณมีสิทธิ์ใช้บริการที่เกี่ยวข้อง คุณยังสามารถดาวน์โหลดแอป เพื่อตรวจสอบการซื้อขายสินทรัพย์หลายประเภท บันทึกการเรียกเก็บเงิน และรายละเอียดค่าธรรมเนียมก่อนทำการซื้อขาย คุณควรตรวจสอบกฎของแพลตฟอร์ม หน้าคำสั่งซื้อขาย ข้อกำหนดด้านกำกับดูแลในท้องถิ่น และระดับความเสี่ยงที่คุณยอมรับได้เองเสมอ ไม่ควรถือว่าเทรนด์เทคโนโลยีใด ๆ เป็นผลตอบแทนที่การันตีได้

คำถามที่พบบ่อย

ระหว่าง HBM3E และ HBM4 แบบใดเหมาะสมกับเซิร์ฟเวอร์ AI ในปัจจุบันมากกว่ากัน?

HBM3E เหมาะสมกว่าสำหรับเซิร์ฟเวอร์ AI ที่ผลิตจำนวนมากและปรับใช้ในวงกว้างอยู่แล้ว ส่วน HBM4 เหมาะสมกว่าสำหรับแพลตฟอร์มตัวเร่ง AI รุ่นถัดไป HBM4 สามารถมอบแบนด์วิดท์และความจุที่สูงกว่าได้ แต่การขยายการผลิตขึ้นอยู่กับแพลตฟอร์ม GPU การรับรองจากลูกค้า กำลังการผลิตด้านการบรรจุชิป และกำหนดการส่งมอบระบบทั้งหมด

HBM4 จะเข้ามาแทนที่ HBM3E ได้อย่างรวดเร็วหรือไม่?

HBM4 จะไม่เข้ามาแทนที่ HBM3E ทันที แพลตฟอร์มที่มีอยู่เดิม เช่น H200 และ Blackwell ยังคงพึ่งพา HBM3E เป็นอย่างมาก และผู้ซื้อเซิร์ฟเวอร์ยังคงพิจารณาถึงต้นทุน การจัดหา และความเข้ากันได้ด้วย จึงเป็นไปได้มากกว่าที่ HBM4 จะเข้าสู่แพลตฟอร์ม AI ระดับไฮเอนด์รุ่นถัดไปก่อน แล้วจึงค่อยๆ เพิ่มสัดส่วนในตลาด

HBM4 เป็นปัจจัยเชิงบวกต่อหุ้นของ Micron อย่างแน่นอนหรือไม่?

HBM4 เป็นโอกาสสำคัญสำหรับ Micron แต่ไม่ได้หมายความว่าราคาหุ้นจะแน่นอนว่าจะขึ้น นักลงทุนยังคงต้องติดตามสัดส่วนรายได้จาก HBM สัดส่วนลูกค้า อัตราผลผลิตที่ดี อัตรากำไรขั้นต้น ค่าใช้จ่ายด้านเงินทุน และมูลค่าหลักทรัพย์ การตัดสินใจซื้อขายใด ๆ ควรอ้างอิงจากระดับความเสี่ยงที่ยอมรับได้และข้อมูลที่เปิดเผยต่อสาธารณะ

ทำไม AI Inference จึงต้องการ HBM มากกว่าแต่ก่อน?

AI Inference ต้องการ HBM มากขึ้นเพราะการประมวลผลบริบทยาว ข้อมูลนำเข้าแบบมัลติโมดัล และคำขอพร้อมกันจำนวนมาก ใช้ KV cache และแบนด์วิดท์หน่วยความจำในปริมาณมาก ความจุ HBM ที่มากขึ้นและแบนด์วิดท์ที่สูงขึ้นสามารถช่วยปรับปรุงอัตราการประมวลผล (throughput) ของการอนุมานและลดเวลารอ แต่ผลลัพธ์ยังขึ้นอยู่กับการปรับแต่งซอฟต์แวร์และสถาปัตยกรรมของระบบด้วย

ความท้าทายที่ใหญ่ที่สุดในการผลิต HBM4 จำนวนมากคืออะไร?

ความท้าทายที่ใหญ่ที่สุดในการผลิต HBM4 จำนวนมากไม่ได้อยู่ที่ชิป DRAM เพียงอย่างเดียว แต่ยังรวมถึงการซ้อน TSV, เวเฟอร์เบสได (base die), การบรรจุแบบ 2.5D, การทดสอบ, การระบายความร้อน และการรับรองจากลูกค้า สเปกของผลิตภัณฑ์เป็นเพียงขั้นตอนแรกเท่านั้น อัตราผลผลิตที่เสถียร การส่งมอบในปริมาณมาก และความเข้ากันได้ของแพลตฟอร์ม คือสิ่งที่กำหนดมูลค่าเชิงพาณิชย์

นักลงทุนทั่วไปจะติดตามการเปลี่ยนแปลงในห่วงโซ่อุปทาน HBM ได้อย่างไร?

นักลงทุนทั่วไปสามารถติดตามสัญญาณได้สี่ประเภท ได้แก่ ความคืบหน้าในการผลิต HBM จาก Micron, SK hynix และ Samsung; แผนงาน GPU สำหรับ AI จาก NVIDIA และ AMD; กำลังการผลิตการบรรจุขั้นสูงจากบริษัทอย่าง TSMC; และการลงจ่ายเงินลงทุนด้านเซิร์ฟเวอร์ AI จากลูกค้าผู้ให้บริการคลาวด์ ก่อนทำการซื้อขาย พวกเขาควรตรวจสอบโครงสร้างค่าธรรมเนียมและกฎของแพลตฟอร์มด้วย