ความสัมพันธ์ระหว่าง HBM และ GPU คืออะไร? เหตุใดการจัดส่งของ NVIDIA จึงขึ้นอยู่กับหน่วยความจำแบนด์วิดท์สูง

HBM ไม่ใช่แกนประมวลผลของ GPU แต่เป็นหน่วยความจำความเร็วสูงที่ GPU สำหรับ AI ระดับไฮเอนด์ไม่สามารถทำงานได้อย่างมีประสิทธิภาพหากขาดสิ่งนี้ GPU ทำหน้าที่คำนวณเมทริกซ์ ส่วน HBM จะป้อนข้อมูลต่าง ๆ เช่น น้ำหนักโมเดล ค่าการกระตุ้น (activations) แคช KV และข้อมูลอื่น ๆ ให้กับ GPU อย่างต่อเนื่อง หากความจุหน่วยความจำไม่เพียงพอ โมเดลหรือบริบทจะไม่สามารถบรรจุได้ หากแบนด์วิดท์ไม่เพียงพอ แม้แต่ GPU ที่ทรงพลังที่สุดก็จะต้องเสียเวลารอข้อมูล การทำความเข้าใจความสัมพันธ์ระหว่าง HBM และ GPU ช่วยให้คุณประเมินข้อจำกัดที่แท้จริงเบื้องหลังยอดจัดส่งของ NVIDIA ผู้ผลิตหน่วยความจำ บรรจุภัณฑ์ระดับสูงของ TSMC และเซิร์ฟเวอร์ AI

ประเด็นสำคัญ

• HBM คือหน่วยความจำแบบแบนด์วิดท์สูง ส่วน GPU คือโปรเซสเซอร์สำหรับการคำนวณแบบขนาน
• ประสิทธิภาพของ AI GPU ขึ้นอยู่กับกำลังประมวลผล ความจุหน่วยความจำ แบนด์วิดท์ และการบรรจุชิป
• NVIDIA H100, H200, B200, Blackwell Ultra และ Rubin ต่างช่วยยกระดับสเปกของ HBM ขึ้นเรื่อยๆ
• การขาดแคลน HBM ไดเ์ GPU หรือการบรรจุแบบ CoWoS ต่างสามารถจำกัดปริมาณการจัดส่งขั้นสุดท้ายได้ทั้งหมด
• HBM4 ช่วยเพิ่มแบนด์วิดท์ แต่เพิ่มความซับซ้อนด้านการตรวจสอบ ความร้อน และห่วงโซ่อุปทาน
• การลงทุนใน HBM จำเป็นต้องติดตามคำสั่งซื้อ อัตราผลผลิต การรับรองจากลูกค้า และมูลค่าหลักทรัพย์

ความสัมพันธ์ระหว่าง HBM และ GPU คืออะไร?

GPU คือตัวประมวลผลที่ทำหน้าที่คำนวณ ส่วน HBM คือหน่วยความจำความเร็วสูงที่ติดตั้งอยู่ใกล้กับ GPU คุณสามารถมองว่า GPU เป็น "เครื่องยนต์คำนวณ" ที่รับผิดชอบการคูณเมทริกซ์ การดำเนินการเทนเซอร์ และงานแบบขนาน ในขณะที่ HBM เป็น "ระบบป้อนข้อมูลความเร็วสูง" ที่ส่งข้อมูลไปยังเครื่องยนต์ดังกล่าวอย่างต่อเนื่อง ในระหว่างการฝึกและการอนุมาน AI นั้น GPU จะอ่านน้ำหนักโมเดล โทเคนอินพุต ค่าแอคทิเวชัน ผลลัพธ์ระหว่างทาง และ KV cache ซ้ำๆ HBM ไม่ได้ทำการคำนวณ AI โดยตรง แต่เป็นตัวกำหนดว่าข้อมูลเหล่านี้สามารถส่งถึง GPU ได้เร็วเพียงพอหรือไม่

ในคอมพิวเตอร์แบบดั้งเดิม CPU หน่วยความจำ และอุปกรณ์จัดเก็บข้อมูลมักถูกกระจายอยู่ตามส่วนต่าง ๆ ของเมนบอร์ด ใน GPU AI ระดับสูง โครงสร้างจะกระชับกว่ามาก: ได GPU และสแตก HBM หลายชุดมักเชื่อมต่อกันผ่านอินเทอร์โพเซอร์และเทคโนโลยีบรรจุภัณฑ์ขั้นสูง CoWoS ของ TSMC เป็นตัวอย่างที่典型 โดยผสานชิปลอจิกและสแตก HBM เข้าไว้ในแพ็กเกจความหนาแน่นสูงเดียวกัน ทำให้ GPU สามารถเข้าถึงหน่วยความจำผ่านช่องทางข้อมูลความกว้างมาก

HBM โดดเด่นด้วยโครงสร้างแบบซ้อนกันและอินเทอร์เฟซกว้างพิเศษ มันไม่ใช่หน่วยความจำทั่วไปที่จัดวางเป็นชิปแบนเพียงชิ้นเดียว แต่เป็นการนำ die ของ DRAM หลายตัวมาซ้อนกันในแนวตั้ง เชื่อมต่อกันผ่าน TSV และเชื่อมโยงกับตัวควบคุมหน่วยความจำของ GPU ผ่าน base die และ interposer เมื่อเทียบกับหน่วยความจำกราฟิกแบบดั้งเดิม HBM ใกล้เคียงกับแหล่งข้อมูลความกว้างแบนด์สูงที่วางอยู่ข้าง GPU มากกว่า

โครงสร้างนี้ยังอธิบายความเข้าใจผิดที่พบบ่อยด้วย: HBM ไม่ใช่สิ่งทดแทน GPU และไม่ใช่ชิปประมวลผลชนิดอื่น แท้จริงแล้วมันยังคงเป็น DRAM แต่ถูกแพ็กเกจและเชื่อมต่อในลักษณะที่เหมาะสมกว่าสำหรับ AI GPU Tensor Cores ของ GPU ทำหน้าที่คำนวณ ส่วน HBM ทำหน้าที่จ่ายข้อมูล ทั้งสองขึ้นอยู่ซึ่งกันและกัน แต่หน้าที่ความรับผิดชอบของแต่ละฝ่ายแตกต่างกันอย่างสิ้นเชิง

จากมุมมองของซอฟต์แวร์ การฝึกและการอนุมาน (inference) ของโมเดลไม่ใช่แค่เรื่องของ "การอ่านข้อมูลเพียงครั้งเดียว" โมเดล Transformer ต้องอ่านน้ำหนัก (weights) ซ้ำๆ คำนวณ attention สร้าง activation และดูแลรักษา KV cache ระหว่างการอนุมาน คำอธิบายของ Google Cloud เกี่ยวกับ หน่วยความจำ GPU ก็เน้นย้ำเช่นกันว่าหน่วยความจำที่ไม่เพียงพอจะจำกัดวิธีการปรับแต่ง (fine-tune) และรันโมเดลโดยตรง สำหรับนักพัฒนา ความจุหน่วยความจำเป็นตัวกำหนดว่าโมเดลจะรันได้หรือไม่ ส่วนแบนด์วิดท์ของหน่วยความจำเป็นตัวกำหนดว่าโมเดลจะรันได้ราบรื่นเพียงใด

สำหรับนักลงทุนแล้ว ความสัมพันธ์นี้มีความสำคัญ เมื่อพิจารณา NVIDIA AI GPUs การมองเพียงแค่ FLOPS, Tensor Cores หรือ CUDA Cores ไม่เพียงพอ เมื่อพิจารณาบริษัท HBM การมองว่าเป็นเพียงการลงทุนในวัฏจักร DRAM ธรรมดาก็ไม่เพียงพอเช่นกัน ชิป AI ระดับไฮเอนด์ได้กลายเป็นผลิตภัณฑ์ที่ผสมผสานกันซึ่งประกอบด้วย GPU logic dies, HBM stacks, การบรรจุขั้นสูง และระบบเชื่อมต่อส่วนประกอบแต่ละส่วนสามารถส่งผลต่ออุปทานสุดท้ายได้

สรุป: ความสัมพันธ์ระหว่าง HBM กับ GPU สามารถอธิบายได้ว่าเป็นการประสานงานระหว่างหน่วยความจำความเร็วสูงกับแกนประมวลผล GPU ทำการคำนวณแบบขนานขนาดใหญ่สำหรับโมเดล AI ในขณะที่ HBM ส่งมอบน้ำหนักโมเดล ผลลัพธ์ระดับกลาง และข้อมูลบริบทด้วยแบนด์วิดท์ที่สูงมาก หากไม่มี GPU HBM จะไม่สามารถทำการคำนวณ AI ได้ด้วยตัวเอง หากมี HBM ไม่เพียงพอ หน่วยประมวลผลของ GPU อาจต้องรออยู่เฉย ๆ ขณะรอข้อมูล ดังนั้น การประเมินความสามารถที่แท้จริงของ GPU สำหรับ AI จำเป็นต้องพิจารณาไม่เพียงแค่ประสิทธิภาพการคำนวณสูงสุด แต่ยังรวมถึงความจุ HBM แบนด์วิดท์ของหน่วยความจำ การแพ็กเกจ และการเชื่อมต่อระดับระบบด้วย

ทำไมหน่วยความจำทั่วไปจึงตอบสนองความต้องการของ GPU สำหรับ AI ระดับไฮเอนด์ได้ยาก

GPU สำหรับ AI ระดับไฮเอนด์ใช้ HBM ไม่ใช่เพราะหน่วยความจำกราฟิกทั่วไปไร้ประโยชน์ แต่เป็นเพราะการฝึกและการอนุมานโมเดลขนาดใหญ่ต้องการอัตราการรับส่งข้อมูลที่สูงมากภายใต้ข้อจำกัดด้านพลังงานและพื้นที่ในการบรรจุ ความสามารถในการคำนวณของ GPU เพิ่มขึ้นอย่างรวดเร็ว หากแบนด์วิดท์ของหน่วยความจำตามไม่ทัน หน่วยประมวลผลจะต้องรอข้อมูล และความสามารถในการคำนวณตามทฤษฎีก็จะไม่กลายเป็นอัตราการรับส่งข้อมูลจริง HBM ช่วยบรรเทาปัญหา "กำแพงหน่วยความจำ" (memory wall) ในตัวเร่ง AI ผ่านอินเทอร์เฟซที่กว้างขึ้น เส้นทางการเชื่อมต่อที่สั้นลง และประสิทธิภาพแบนด์วิดท์ที่ดีกว่า

“กำแพงหน่วยความจำ” (memory wall) หมายความว่าความเร็วในการประมวลผลพัฒนาเร็วกว่าความเร็วในการเคลื่อนย้ายข้อมูล การคูณเมทริกซ์ในโมเดล AI อาจดูเหมือนเป็นปัญหาด้านการประมวลผล แต่ทุกการคำนวณต้องอาศัยการอ่านค่าน้ำหนัก (weights) และข้อมูลนำเข้า ในการอนุมาน (inference) ของโมเดลภาษาขนาดใหญ่ ขั้นตอนการถอดรหัส (decode) มักต้องอ่านน้ำหนักของโมเดลซ้ำๆ ยิ่งบริบทยาวเท่าไร KV cache ก็ยิ่งใหญ่ขึ้นเท่านั้น ในสถานการณ์เช่นนี้ ความจุและแบนด์วิดท์ของหน่วยความจำส่งผลโดยตรงต่อจำนวนผู้ใช้พร้อมกัน ปริมาณการประมวลผล token และความหน่วง

ความแตกต่างระหว่าง HBM, GDDR และ DDR ไม่ได้เป็นเพียงแค่เรื่อง “ตัวไหนเร็วกว่า” เท่านั้น แต่แต่ละตัวถูกออกแบบมาสำหรับตรรกะของผลิตภัณฑ์ที่แตกต่างกัน:

การ์ดจอสำหรับผู้บริโภคยังคงใช้ GDDR อย่างแพร่หลาย เนื่องจากเกม การเรนเดอร์กราฟิก และผลิตภัณฑ์สำหรับตลาดมวลชน มีความอ่อนไหวต่อต้นทุน ราคา และปริมาณอุปทานมากกว่า GDDR สามารถส่งมอบประสิทธิภาพหน่วยความจำที่แข็งแกร่งด้วยความซับซ้อนในการแพ็กเกจที่ต่ำกว่า ส่วน HBM เหมาะสำหรับศูนย์ข้อมูลมากกว่า: GPU แต่ละตัวมีราคาแพง และลูกค้ายินดีจ่ายเงินเพิ่มเพื่อรับอัตราการถ่ายโอนข้อมูลที่สูงขึ้น ประสิทธิภาพการใช้พลังงานที่ดีขึ้น และความจุโมเดลที่มากขึ้น

นอกจากนี้ การแยกความแตกต่างระหว่าง "ความจุ" กับ "แบนด์วิดท์" ก็เป็นเรื่องสำคัญ ความจุตอบคำถามว่าสิ่งใดสามารถใส่ได้หรือไม่ ส่วนแบนด์วิดท์ตอบคำถามว่าอ่านข้อมูลได้เร็วเพียงใด ความจุหน่วยความจำที่มากขึ้นสามารถรองรับโมเดลที่ใหญ่ขึ้น บริบทที่ยาวนานขึ้น และ KV cache ที่มากขึ้น ส่วนแบนด์วิดท์หน่วยความจำที่สูงขึ้นช่วยให้ GPU อ่านข้อมูลเหล่านั้นได้เร็วขึ้น ทั้งสองอย่างล้วนสำคัญ แต่ไม่สามารถทดแทนกันได้

การฝึกฝน AI ต้องพึ่งพาทั้งความจุและแบนด์วิดท์อย่างมาก การฝึกฝนต้องใช้พื้นที่จัดเก็บสำหรับน้ำหนักโมเดล การกระตุ้น เกรเดียนต์ และสถานะของออปติไมเซอร์ การอนุมาน (inference) ก็เริ่มพึ่งพา HBM มากขึ้นเช่นกัน เนื่องจากบริบทที่ยาว บทสนทนาหลายรอบ การสร้างข้อมูลแบบเสริมด้วยการค้นคืน (retrieval-augmented generation) และบริการที่มีผู้ใช้พร้อมกันจำนวนมาก ล้วนเพิ่มแรงกดดันต่อหน่วยความจำภายในเครื่อง HBM ไม่ได้แก้ปัญหาด้านประสิทธิภาพได้ทุกอย่างโดยอัตโนมัติ แต่เป็นเงื่อนไขสำคัญที่ทำให้ GPU สำหรับ AI ระดับไฮเอนด์สามารถเอาชนะคอขวดด้านหน่วยความจำได้

ดังนั้น HBM จึงไม่ได้เป็นเพียงแค่ป้ายกำกับที่มีราคาแพงกว่าและทันสมัยกว่าเท่านั้น แต่เป็นผลมาจากสถาปัตยกรรม GPU สำหรับ AI ที่พัฒนาไปถึงจุดที่การส่งมอบข้อมูลของหน่วยความจำกลายเป็นปัจจัยสำคัญ เมื่อความหนาแน่นของการประมวลผลเพิ่มขึ้น สถาปัตยกรรมหน่วยความจำแบบทั่วไปจึงมีแนวโน้มที่จะไปถึงขีดจำกัดในด้านพื้นที่ของแพ็กเกจ การใช้พลังงาน และแบนด์วิดท์ HBM ใช้แนวทางการผลิตที่ซับซ้อนมากขึ้นเพื่อแลกกับความสามารถในการถ่ายโอนข้อมูลที่สูงขึ้นต่อหน่วยพื้นที่

สรุป: หน่วยความจำแบบธรรมดายังคงมีคุณค่าอยู่ แต่มันต้องดิ้นรนที่จะตอบสนองความต้องการของ GPU AI ระดับไฮเอนด์ที่ต้องการแบนด์วิดท์ ประสิทธิภาพด้านพลังงาน ระยะทางการเชื่อมต่อ และความหนาแน่นของความจุไปพร้อมกัน GDDR เหมาะสมกว่าสำหรับ GPU สำหรับผู้บริโภคที่ sensitive ต่อต้นทุนและผลิตในปริมาณมาก ส่วน DDR เหมาะสมกว่าในการทำหน้าที่เป็นหน่วยความจำระบบของ CPU GPU AI ระดับไฮเอนด์ใช้ HBM เนื่องจากทั้งการฝึกฝน (training) และการอนุมาน (inference) ต่างทำให้แรงกดดันในการเคลื่อนย้ายข้อมูลเพิ่มขึ้น: พารามิเตอร์ของโมเดลต้องถูกอ่าน ค่า activation ต้องถูกเขียน KV cache ต้องอยู่ในเครื่อง (local) และบริบทที่ยาวขึ้นพร้อมกับความพร้อมกัน (concurrency) ที่สูงยิ่งเพิ่มความต้องการหน่วยความจำมากขึ้นไปอีก จุดเด่นของ HBM คือมันวางข้อมูลจำนวนมากให้อยู่ใกล้ GPU มากขึ้น เคลื่อนย้ายได้เร็วขึ้น และให้การใช้พลังงานต่อหน่วยแบนด์วิดท์ที่ต่ำกว่า

HBM ส่งผลต่อประสิทธิภาพจริงของ NVIDIA AI GPU อย่างไร

NVIDIA ต้องเพิ่มความจุและแบนด์วิดท์ของ HBM อย่างต่อเนื่อง เนื่องจากพลังการคำนวณของ Tensor Core ที่เพิ่มเข้ามาใหม่ต้องการแหล่งข้อมูลที่เพียงพอ วิวัฒนาการจาก H100, H200, B200 และ Blackwell Ultra ไปสู่ Rubin แสดงให้เห็นทิศทางที่ชัดเจน: เมื่อความสามารถในการคำนวณสูงขึ้น ความจุและแบนด์วิดท์ของหน่วยความจำในท้องถิ่นต้องเพิ่มขึ้นตามไปด้วย มิฉะนั้น การฝึกและการอนุมาน AI จะถูกจำกัดด้วยการเข้าถึงน้ำหนักโมเดล (model weights), KV cache, context ที่ยาว และการให้บริการพร้อมกันหลายรายการ ทำให้ฮาร์ดแวร์ไม่สามารถทำงานได้อย่างเต็มประสิทธิภาพ

ข้อกำหนดสาธารณะแสดงให้เห็นว่า GPU สำหรับศูนย์ข้อมูลของ NVIDIA ทุกรุ่นต่างให้ความสำคัญกับ HBM มากขึ้น NVIDIA H100 รุ่น SXM มีข้อกำหนด HBM 80GB และแบนด์วิดท์หน่วยความจำระดับ 3.35TB/s NVIDIA H200 เพิ่มขึ้นเป็น HBM3e 141GB และแบนด์วิดท์ 4.8TB/s ในยุค Blackwell DGX B200 มีหน่วยความจำ GPU 1,440GB และแบนด์วิดท์ HBM3e 64TB/s ใน GPU Blackwell แปดตัว ซึ่งหมายความว่าโดยประมาณมีหน่วยความจำประมาณ 180GB และแบนด์วิดท์ระดับ 8TB/s ต่อ GPU มองไปข้างหน้า NVIDIA Rubin มีแผนที่จะใช้ HBM4 โดยมีความจุสูงสุด 288GB ต่อ GPU และแบนด์วิดท์รวมสูงสุด 22TB/s

การเปลี่ยนแปลงข้อกำหนดเหล่านี้แสดงให้เห็นว่า NVIDIA ไม่ได้เพียงแค่เพิ่มพลังการคำนวณมากขึ้นเท่านั้น การฝึก AI ใช้หน่วยความจำจำนวนมาก: น้ำหนักโมเดล (model weights), การกระตุ้น (activations), เกรเดียนต์ (gradients), สถานะของออปติไมเซอร์ (optimizer states) และบัฟเฟอร์การฝึกแบบกระจายศูนย์ ล้วนใช้พื้นที่ในหน่วยความจำ ความจุ HBM ที่มากขึ้นสามารถลดการถ่ายโหลดไปยัง CPU, ลดแรงกดดันในการแบ่งส่วนข้ามอุปกรณ์ และอนุญาตให้ใช้ขนาดแบตช์ที่ใหญ่ขึ้นหรือโครงสร้างโมเดลที่ซับซ้อนมากขึ้น แบนด์วิดท์ที่สูงขึ้นช่วยให้ GPU อ่านและเขียนข้อมูลได้เร็วขึ้น ซึ่งช่วยเพิ่มประสิทธิภาพการใช้งานอุปกรณ์

ค่าของ HBM ในงาน inference มักถูกประเมินต่ำเกินไป หลายคนคิดว่า inference หมายถึงแค่ "รันโมเดลเพียงครั้งเดียว" แต่การทำ inference ที่มีบริบทยาวนั้นต้องขยาย KV cache อย่างต่อเนื่อง ยิ่งมีผู้ใช้พร้อมกันมากเท่าไร การใช้หน่วยความจำในท้องถิ่นก็ยิ่งชัดเจนมากขึ้นเท่านั้น ขั้นตอน decode ยังต้องอ่าน weights บ่อยครั้งอีกด้วย หากแบนด์วิดท์ไม่เพียงพอก็จะส่งผลโดยตรงต่อความเร็วในการสร้าง token สำหรับผู้ให้บริการคลาวด์แล้ว HBM ไม่ใช่แค่ข้อกำหนดทางเทคนิคเท่านั้น แต่ยังส่งผลต่อจำนวนคำขอที่เซิร์ฟเวอร์หนึ่งสามารถรองรับได้ และจำนวน token ที่สามารถสร้างได้ต่อหนึ่งวัตต์

อย่างไรก็ตาม HBM ไม่ใช่ทางแก้สำเร็จรูปสำหรับทุกปัญหา ประสิทธิภาพจริงยังคงขึ้นอยู่กับสถาปัตยกรรมของโมเดล การ quantization กลยุทธ์การ batching การปรับแต่งเคอร์เนลต่าง ๆ เช่น FlashAttention การเชื่อมต่อระหว่าง GPU ระบบเครือข่าย และระบบจัดตารางงาน หาก workload ถูกจำกัดหลักด้วยการสื่อสารผ่านเครือข่าย การเพิ่มแบนด์วิดท์ของ HBM เพียงอย่างเดียวจะไม่ทำให้ความเร็วโดยรวมดีขึ้นแบบเชิงเส้น หากซอฟต์แวร์ไม่สามารถใช้ฮาร์ดแวร์ได้อย่างเต็มที่ แบนด์วิดท์สูงสุดอาจยังคงเป็นเพียงตัวเลขบนกระดาษสเปก

คุณสามารถใช้คำถามสามข้อในการประเมินว่า workload ของ AI GPU ขึ้นอยู่กับ HBM มากเพียงใด:

1. น้ำหนักโมเดล (model weights), การกระตุ้น (activations) และ KV cache ใกล้ถึงขีดจำกัดความจุหน่วยความจำหรือไม่?
2. ปริมาณงาน (workload) มีการอ่านน้ำหนักโมเดลจำนวนมากซ้ำๆ ซึ่งจำกัดอัตราความเร็วในการถอดรหัส (decode) หรือการอนุมาน (inference) หรือไม่?
3. ในการฝึกหรือการอนุมานแบบหลาย GPU คอขวดคือหน่วยความจำในเครื่องหรือการสื่อสารข้าม GPU?

หากคำตอบชี้ไปที่หน่วยความจำในเครื่อง ความจุและแบนด์วิดท์ของ HBM คือตัวชี้วัดหลัก หากคอขวดมาจากเครือข่าย การจัดตาราง หรือซอฟต์แวร์ HBM ยังคงมีความสำคัญ แต่ไม่ใช่ปัจจัยชี้ขาดเพียงตัวเดียว

สรุป: การอัปเกรดประสิทธิภาพ GPU AI ของ NVIDIA แท้จริงแล้วคือการอัปเกรดในด้านการคำนวณ หน่วยความจำ ระบบเชื่อมต่อ และซอฟต์แวร์ การเปลี่ยนจาก H100 ไปสู่ H200 แสดงให้เห็นถึงคุณค่าของความจุและแบนด์วิดท์ของ HBM3e B200 และ Blackwell Ultra ผูก HBM ขนาดใหญ่ขึ้นเข้ากับ Tensor Cores ที่แข็งแกร่งขึ้น การก้าวของ Rubin สู่ HBM4 ถูกออกแบบมาเพื่อรองรับความต้องการการอนุมานแบบบริบทยาว มัลติโมเดีย MoE และการทำงานพร้อมกันสูง HBM ส่งผลต่อประสิทธิภาพจริงของ GPU ไม่ใช่ด้วยการแทนที่หน่วยคำนวณ แต่ด้วยการป้อนข้อมูลให้กับหน่วยคำนวณอย่างต่อเนื่อง ยิ่งการคำนวณแข็งแกร่งมากขึ้นเท่าไร ก็ยิ่งต้องการระบบหน่วยความจำที่เร็วขึ้น ใกล้ชิดขึ้น และใหญ่ขึ้นมากขึ้นเท่านั้น

เหตุใดการจัดส่ง GPU ของ NVIDIA จึงขึ้นอยู่กับ HBM

NVIDIA ไม่ได้ส่งมอบ die ของ GPU เปล่าให้กับลูกค้า แต่ส่งมอบตัวเร่ง AI ที่ผ่านการจับคู่ HBM การแพ็กเกจขั้นสูง การประกอบโมดูล และการตรวจสอบระบบมาแล้ว แม้แต่เวเฟอร์ GPU จะถูกผลิตออกมาแล้ว ปริมาณ GPU ที่ส่งมอบขั้นสุดท้ายก็ยังคงอาจถูกจำกัดได้ หากมีชุด HBM ที่ผ่านการรับรองไม่เพียงพอ หากอัตราผลผลิตไม่เพียงพอ หากการตรวจสอบความถูกต้องของแพลตฟอร์มยังไม่สมบูรณ์ หรือหากกำลังการผลิต CoWoS และการแพ็กเกจขั้นสูงอื่น ๆ แน่นหนา ดังนั้น การจัดส่งของ NVIDIA จึงขึ้นอยู่กับ HBM ไม่เพียงแต่ในแง่ของประสิทธิภาพเท่านั้น แต่ยังรวมถึงโครงสร้างการผลิตและห่วงโซ่อุปทานด้วย

GPU AI ระดับไฮเอนด์หนึ่งตัวมักต้องการหลายขั้นตอนในการประกอบเข้าด้วยกัน:

1. TSMC ผลิตไดเอลอจิกของ GPU และปรับปรุงอัตราผลผลิต
2. SK hynix, Micron, Samsung และซัพพลายเออร์อื่น ๆ ผลิต HBM
3. HBM ผ่านกระบวนการซ้อนชิป DRAM, TSV, ไดเอฐาน การทดสอบ และการคัดแยกเกรด
4. ไดเอ GPU และชุด HBM หลายชุดเข้าสู่กระบวนการแพ็กเกจขั้นสูง
5. ผลิตภัณฑ์ที่แพ็กเกจแล้วผ่านการทดสอบความน่าเชื่อถือ พลังงาน ความร้อน และสัญญาณ
6. จากนั้นจึงถูกประกอบเป็นโมดูล SXM, บอร์ด HGX, ระบบ DGX หรือเซิร์ฟเวอร์แบบครบชุด

ในห่วงโซ่นี้ GPU die, HBM stack, การแพ็กเกจ CoWoS, ซับสเตรต, ระบบระบายความร้อน และการประกอบเซิร์ฟเวอร์ จะต้องพร้อมใช้งานในสัดส่วนที่เหมาะสม การขยายเพียงส่วนใดส่วนหนึ่งของห่วงโซ่ไม่จำเป็นต้องเพิ่มปริมาณการจัดส่งขั้นสุดท้าย หากมี GPU die เพียงพอแต่มี HBM ไม่เพียงพอ ก็ไม่สามารถส่งมอบได้ หากมี HBM แต่ไม่มี CoWoS ก็ไม่สามารถส่งมอบได้ แม้หลังจากการแพ็กเกจเสร็จสมบูรณ์แล้ว ความล่าช้าในระบบจ่ายไฟของเซิร์ฟเวอร์ ระบบระบายความร้อน หรือเมนบอร์ด ก็ยังคงส่งผลกระทบต่อกำหนดการส่งมอบขั้นสุดท้ายได้

HBM ยังไม่ใช่ส่วนประกอบมาตรฐานที่สามารถเปลี่ยนแทนกันได้อย่างอิสระ ผลิตภัณฑ์ HBM จากผู้จำหน่ายต่างกันอาจแตกต่างกันในด้านการใช้พลังงาน ความเร็ว คุณลักษณะด้านความร้อน การออกแบบ base die ความเข้ากันได้ของบรรจุภัณฑ์ และความน่าเชื่อถือ NVIDIA สามารถรับรองผู้จำหน่าย HBM หลายรายได้ แต่ผลิตภัณฑ์ HBM แต่ละรายการจะต้องผ่านการตรวจสอบสำหรับแพลตฟอร์มเฉพาะ สำหรับผู้จำหน่ายหน่วยความจำที่ต้องการเข้าสู่ห่วงโซ่อุปทานของ NVIDIA การ "สามารถผลิต HBM ได้" เพียงอย่างเดียวไม่เพียงพอ ผู้จำหน่ายจะต้องพิสูจน์ว่าผลิตภัณฑ์ของตนสามารถทำงานได้อย่างน่าเชื่อถือร่วมกับ GPU เป้าหมาย บรรจุภัณฑ์เป้าหมาย และสภาพแวดล้อมเซิร์ฟเวอร์เป้าหมาย

นี่คือเหตุผลเดียวกันที่ทำให้ตลาดจับตาดู HBM, CoWoS และเซิร์ฟเวอร์ AI ไปพร้อมกัน ความต้องการ HBM ที่เพิ่มขึ้นส่งผลดีต่อผู้ผลิตหน่วยความจำอย่าง SK hynix, Micron และ Samsung ความต้องการชิปตรรกะ GPU ส่งผลต่อกำลังการผลิตโหนดขั้นสูงของ TSMC การแพ็กเกจที่ใหญ่ขึ้นและการซ้อน HBM ที่มากขึ้นเพิ่มแรงกดดันต่อกำลังการผลิต CoWoS GPU สำหรับ AI ได้เปลี่ยนจากการแข่งขันระดับชิปเดียวมาเป็นการแข่งขันระดับระบบที่ครอบคลุมหน่วยความจำ โรงหล่อ การแพ็กเกจ เซิร์ฟเวอร์ และศูนย์ข้อมูล

สำหรับนักลงทุน ตรรกะนี้ยังอธิบายได้ว่าทำไมข่าวเกี่ยวกับ HBM จึงส่งผลกระทบต่อความรู้สึกนักลงทุนในห่วงโซ่อุปทานของ NVIDIA หากผู้ผลิต HBM รายหนึ่งได้รับการรับรองจากลูกค้าสำคัญ ตลาดอาจทบทวนโอกาสในการรับคำสั่งซื้อของบริษัทนั้นใหม่ หากกำลังการผลิต CoWoS ขยายตัวเร็วกว่าที่คาด ความคาดหวังต่อยอดการจัดส่งระบบของ NVIDIA ก็อาจดีขึ้นเช่นกัน หากกำลังการผลิต HBM ขยายตัวเร็วเกินไป นักลงทุนยังจำเป็นต้องจับตาดูราคาหน่วยความจำและการกลับทิศทางของวัฏจักรสินค้าคงคลังด้วย

หากคุณติดตามหุ้นที่จดทะเบียนในสหรัฐฯ เช่น NVIDIA, TSMC และ Micron คุณสามารถใช้ ค้นหาข้อมูลหุ้นสหรัฐฯ เพื่อติดตามข้อมูลของบริษัทที่เกี่ยวข้อง ความเคลื่อนไหวของตลาด และสัญญาณการเทรดได้ แต่ข่าวที่เกี่ยวกับ HBM ควรตีความร่วมกับผลประกอบการ ค่าใช้จ่ายด้านทุน การรับรองจากลูกค้า แผนการจัดส่ง และมูลค่าหุ้นด้วย พาดหัวข่าวเดียวเกี่ยวกับห่วงโซ่อุปทานไม่ควรถูกมองว่าเป็นข้อสรุปการลงทุนที่แน่นอนแต่อย่างใด

สรุป: การส่งมอบ GPU ของ NVIDIA ขึ้นอยู่กับ HBM ด้วยเหตุผลสองประการ ประการแรก GPU สำหรับ AI จำเป็นต้องใช้ HBM เพื่อจัดหาหน่วยความจำภายในที่มีความจุสูงและแบนด์วิดท์สูง มิฉะนั้นหน่วยประมวลผลจะไม่สามารถรับข้อมูลได้อย่างต่อเนื่อง ประการที่สอง NVIDIA ในที่สุดขายตัวเร่ง AI แบบสมบูรณ์และระบบต่าง ๆ ไม่ใช่เวเฟอร์ GPU ที่แยกส่วน โดย GPU ระดับไฮเอนด์แต่ละตัวต้องการ HBM หลายชุดที่ผ่านการรับรอง การแพ็กเกจขั้นสูง การทดสอบโมดูล และการประกอบเซิร์ฟเวอร์ เมื่อวิเคราะห์อุปทานของ NVIDIA คุณจำเป็นต้องมองไปที่เวเฟอร์ GPU, ชุด HBM, กำลังการผลิต CoWoS, ซับสเตรต, ระบบระบายความร้อน, พลังงาน และการปรับใช้บนคลาวด์โดยรวม ไม่ใช่เพียงตัวเลขการผลิตชิปเพียงตัวเดียว

HBM4 อาจเปลี่ยนแปลงประสิทธิภาพของ GPU และการวิเคราะห์ห่วงโซ่อุปทานอย่างไร

HBM4 จะช่วยเพิ่มแบนด์วิดท์หน่วยความจำในท้องถิ่นและความหนาแน่นของความจุให้กับ AI GPU ได้ดียิ่งขึ้น แต่มันจะไม่ทำให้ห่วงโซ่อุปทานง่ายขึ้น ในทางกลับกัน HBM4 ทำให้ GPU, ผู้ผลิตหน่วยความจำ, เบสได, การบรรจุขั้นสูง และการระบายความร้อนของระบบเชื่อมโยงกันแน่นแฟ้นยิ่งขึ้น คุณสามารถมอง HBM4 ว่าเป็นทิศทางการอัปเกรดที่สำคัญสำหรับ AI GPU รุ่นถัดไป: มันสามารถบรรเทาปัญหาคอขวดด้านหน่วยความจำในการอนุมานบริบทยาว การให้บริการพร้อมกันจำนวนมาก และการปรับใช้โมเดลขนาดใหญ่ แต่ในขณะเดียวกันก็เพิ่มความซับซ้อนด้านการตรวจสอบ อัตราผลผลิต ต้นทุน และการบรรจุ

จากมุมมองของมาตรฐาน หนึ่งในการเปลี่ยนแปลงที่สำคัญที่สุดของ HBM4 คืออินเทอร์เฟซที่กว้างขึ้น มาตรฐาน JESD270-4 HBM4 รองรับอินเทอร์เฟซแบบ 2048 บิตและความเร็วในการถ่ายโอนข้อมูลสูงสุด 8Gb/s ซึ่งช่วยให้มีแบนด์วิดท์ได้สูงถึง 2TB/s ต่อสแตก เมื่อเทียบกับ HBM3E นั้น HBM4 ไม่ได้เพียงแค่เพิ่มความถี่เท่านั้น แต่ยังเพิ่มการถ่ายโอนข้อมูลแบบขนานผ่านอินเทอร์เฟซที่กว้างขึ้นและช่องทางที่มากขึ้นด้วย

ผู้ผลิตหน่วยความจำต่างแข่งขันกันรอบ HBM4 แล้ว Samsung HBM4 เน้นย้ำ I/O จำนวน 2048 และแบนด์วิดท์สูงสุดถึง 3,300GB/s Micron HBM4 ระบุอินเทอร์เฟซบัสแบบพิน 2048 พิน ความเร็วเกิน 11.0Gbps และมากกว่า 2.8TB/s ต่อสแตก SK hynix HBM4 เน้นย้ำแบนด์วิดท์ที่สูงขึ้นและประสิทธิภาพสำหรับลูกค้า AI รุ่นถัดไป สัญญาณเหล่านี้แสดงให้เห็นว่า HBM4 ได้กลายเป็นสมรภูมิหลักสำหรับผู้ผลิตหน่วยความจำที่แข่งขันกันเพื่อผ่านการรับรองแพลตฟอร์ม AI และคำสั่งซื้อระดับพรีเมียม

แต่ HBM4 ก็นำมาซึ่งความยากลำบากเพิ่มมากขึ้นด้วย อินเทอร์เฟซที่กว้างขึ้นและแบนด์วิดท์ที่สูงขึ้นหมายความว่าความสมบูรณ์ของสัญญาณ การจัดการพลังงาน การระบายความร้อน และพื้นที่บรรจุ (packaging) จะควบคุมได้ยากขึ้น ชิปเบส (base die) ยังมีความสำคัญมากขึ้นด้วย เพราะมันไม่ได้เป็นเพียงชั้นล่างสุดของสแตกหน่วยความจำอีกต่อไป แต่อาจต้องรองรับฟังก์ชันอินเทอร์เฟซ ลอจิก และการปรับแต่งเฉพาะที่ซับซ้อนยิ่งขึ้น ในอนาคต ผู้ผลิต HBM และผู้ผลิต GPU จะต้องเริ่มการออกแบบร่วมกันให้เร็วขึ้น และวงจรการรับรองของลูกค้าอาจมีความสำคัญมากยิ่งขึ้นไปอีก

HBM4 สามารถปรับปรุง:

• แบนด์วิดท์หน่วยความจำภายในเครื่องของ GPU;
• ขนาดโมเดลและคอนเท็กซ์ที่ GPU เครื่องเดียวสามารถรองรับได้;
• ทรูพุตของโทเคนในบางสถานการณ์การอนุมาน (inference);
• พื้นที่สำรองสำหรับบริการคอนเท็กซ์ยาวและผู้ใช้พร้อมกันจำนวนมาก;
• แรงกดดันด้านประสิทธิภาพการใช้พลังงานสำหรับงานถ่ายโอนข้อมูลบางประเภท

HBM4 ไม่สามารถแก้ปัญหาได้ด้วยตัวเองเพียงอย่างเดียว:

• คอขวดด้านระบบเครือข่ายแบบ Multi-GPU หรือ multi-node;
• ข้อจำกัดด้านพลังงานของศูนย์ข้อมูล ระบบระบายความร้อนแบบของเหลว และการติดตั้งแร็ก;
• ปัญหาด้านการกำหนดตารางงานของซอฟต์แวร์ การเพิ่มประสิทธิภาพเคอร์เนล และอัตราการเข้าถึงแคช (cache hit-rate);
• ความซับซ้อนเชิงการคำนวณของสถาปัตยกรรมโมเดล AI;
• ต้นทุน HBM ที่สูงและความเสี่ยงจากอุปทานล้นตลาด

จากมุมมองการวิเคราะห์อุตสาหกรรม ยุคของ HBM4 ต้องการการติดตามว่าผลิตภัณฑ์ถูกนำไปใช้จริงหรือไม่ ไม่ใช่เพียงว่าผู้ผลิตได้ประกาศเปิดตัวหรือไม่ แม้ว่าผู้ผลิตสองรายจะมี HBM4 ให้บริการทั้งคู่ แต่ผลลัพธ์อาจแตกต่างกันอย่างมาก ขึ้นอยู่กับว่าผลิตภัณฑ์ของพวกเขาผ่านการรับรอง (qualification) จาก NVIDIA, AMD หรือลูกค้า ASIC แบบสั่งเฉพาะหรือไม่ เข้าสู่การผลิตจำนวนมาสส์หรือไม่ อัตราผลผลิต (yield) มีความเสถียรหรือไม่ และตรงกับแพ็กเกจเป้าหมายหรือไม่ แผนกำลังการผลิต การส่งมอบตัวอย่าง การรับรองจากลูกค้า ข้อตกลงจัดหาระยะยาว และรายได้ที่รับรู้แล้ว ล้วนมีความหมายที่แตกต่างกัน

หากคุณมองว่า HBM เป็นธีมการเทรด คุณควรใส่ใจกับต้นทุนธุรกรรมจริงด้วย ค่าธรรมเนียมการซื้อขายหุ้นสหรัฐฯ ไม่ได้มีเพียงค่าคอมมิชชัน แต่อาจรวมถึงค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมตัวแทนภายนอก ค่าธรรมเนียมกิจกรรมการซื้อขาย และค่าใช้จ่ายอื่น ๆ อีกด้วย Biya ไม่เก็บค่าคอมมิชชันสำหรับการซื้อขายหุ้นสหรัฐฯ ส่วนค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมตัวแทนภายนอก และต้นทุนอื่น ๆ จะเป็นไปตามค่าธรรมเนียมการซื้อขายหุ้นสหรัฐฯและหน้าคำสั่งซื้อขาย ความพร้อมใช้งานของบริการขึ้นอยู่กับที่ตั้งของผู้ใช้ ผลการตรวจสอบยืนยันตัวตน กฎระเบียบของแพลตฟอร์ม รวมถึงกฎหมายและข้อบังคับที่เกี่ยวข้อง ข้อมูลตลาดสาธารณะ กฎการซื้อขาย และโครงสร้างค่าธรรมเนียม ไม่ถือเป็นคำแนะนำการลงทุน

สรุป: HBM4 จะผลักดันระบบหน่วยความจำของ AI GPU ไปสู่แบนด์วิดท์ที่สูงขึ้นและความจุที่มากขึ้น แต่ในขณะเดียวกันก็จะทำให้การวิเคราะห์ห่วงโซ่อุปทานมีความซับซ้อนมากขึ้น คุณไม่ควรมองแค่ว่า "HBM4 มีแบนด์วิดท์สูงกว่า" เท่านั้น แต่คุณยังต้องติดตามเรื่องฐานดาย (base die), การบรรจุภัณฑ์ (packaging), การจัดการความร้อน, การรับรองจากลูกค้า, อัตราผลผลิต และจังหวะการผลิตจริง ด้วย สำหรับ NVIDIA HBM4 ช่วยให้แพลตฟอร์มในอนาคตอย่าง Rubin รองรับการอนุมานบริบทยาว (long-context inference) และการฝึกฝนที่มีปริมาณงานสูงได้ สำหรับผู้ผลิตหน่วยความจำ HBM4 คือโอกาสในการปรับปรุงโครงสร้างผลิตภัณฑ์ และสำหรับนักลงทุน HBM4 แทนทั้งธีมการเติบโตและความเสี่ยงที่อาจเกิดจากการขยายกำลังการผลิต ความผันผวนของราคา และความคาดหวังที่สูงเกินจริง

วิธีติดตามห่วงโซ่อุปทาน HBM และ GPU จากมุมมองการลงทุน

ในการวิเคราะห์ห่วงโซ่อุปทานของ HBM และ GPU การพูดเพียงว่า "NVIDIA แข็งแกร่ง" หรือ "HBM ขาดแคลน" ย่อมไม่เพียงพอ แนวทางที่มีประสิทธิภาพกว่าคือการแบ่งห่วงโซ่ออกเป็นหกชั้น ได้แก่ ด้านอุปสงค์ สเปก กำลังการผลิต การรับรองสินค้า การกำหนดราคา และการรับรู้ทางการเงิน การเติบโตของยอดจัดส่ง GPU ของ NVIDIA จะช่วยกระตุ้นด้านอุปสงค์ของ HBM แต่รายได้และกำไรของผู้ผลิตหน่วยความจำยังคงขึ้นอยู่กับรุ่นของผลิตภัณฑ์ สัดส่วนลูกค้า ราคาตามสัญญา อัตราผลผลิต (yield) ค่าใช้จ่ายด้านทุน และวงจร DRAM แบบดั้งเดิม

คุณสามารถมุ่งความสนใจไปที่ตัวชี้วัดต่อไปนี้:

ธีม HBM มีแนวโน้มที่จะเกิดการตัดสินผิดพลาดสุดขั้วสองประการ ประการแรกคือการมองเฉพาะด้านอุปสงค์โดยละเลยด้านอุปทาน ดีมานด์ GPU สำหรับ AI ที่แข็งแกร่งไม่ได้แปลว่า HBM จะขาดแคลนตลอดไป เมื่อผู้ผลิตหน่วยความจำขยายกำลังการผลิตอย่างก้าวรุกราน ราคาและสินค้าคงคลังอาจกลับเข้าสู่ความผันผวนตามวัฏจักรอีกครั้ง ประการที่สองคือการมองเฉพาะผู้ผลิตหน่วยความจำโดยละเลยด้านการบรรจุและระบบ แม้ว่าอุปทาน HBM จะเพิ่มขึ้น แต่การส่งมอบ GPU ของ NVIDIA ก็ไม่จำเป็นต้องเพิ่มขึ้นในอัตราเดียวกัน หาก CoWoS, ซับสเตรต, ระบบระบายความร้อนด้วยของเหลว, พลังงานไฟฟ้า หรือการประกอบเซิร์ฟเวอร์ ไม่สามารถตามทันได้

นักลงทุนยังจำเป็นต้องแยกแยะระหว่างความเป็นผู้นำทางเทคนิคกับผลประโยชน์ทางการเงิน การเป็นบริษัทแรกที่ประกาศ HBM4 ไม่ได้แปลว่าบริษัทจะสร้างรายได้ในวงกว้างได้ทันที การผ่านการรับรองจากลูกค้าไม่จำเป็นต้องหมายความว่าปริมาณการผลิตที่มีอัตรากำไรสูงจะเพิ่มขึ้นทันที การเข้าสู่ห่วงโซ่อุปทานไม่ได้หมายความว่ามูลค่าหุ้นจะสมเหตุสมผลโดยอัตโนมัติ สำหรับบริษัท HBM คำถามที่สำคัญกว่าคือสัดส่วนของ HBM ระดับไฮเอนด์ในรายได้รวม การมีส่วนช่วยด้านอัตรากำไร สัญญาจัดหาระยะยาว วินัยในการลงทุน และว่าไซเคิลของ DRAM/NAND ดั้งเดิมจะสร้างแรงต้านหรือไม่

หากคุณติดตามหุ้น NVIDIA, TSMC, Micron, ADR ที่เกี่ยวข้องกับ SK hynix หรือหุ้นอื่น ๆ ในห่วงโซ่อุปทาน AI ในตลาดสหรัฐฯ และฮ่องกง คุณสามารถใช้ Biya เพื่อดูข้อมูลตลาดสินทรัพย์หลายประเภทและเข้าถึงการซื้อขาย สำหรับผู้ใช้ที่ตรงตามเงื่อนไขการให้บริการที่เกี่ยวข้อง ยังสามารถใช้ แอป Biya เพื่อติดตามการเปลี่ยนแปลงของตลาดหุ้นสหรัฐฯ หุ้นฮ่องกง และสินทรัพย์ดิจิทัลได้อีกด้วย ก่อนทำการซื้อขาย คุณควรตรวจสอบค่าธรรมเนียมในหน้าสั่งซื้อ ข้อกำหนดด้านกฎระเบียบในท้องถิ่น ระดับการยอมรับความเสี่ยง และคุณสมบัติของบัญชีเสมอ

กรอบการติดตามที่มีวินัยมากขึ้นคือการมอง HBM ว่าเป็น “ตัวขยายตรงกลาง” ของดีมานด์คอมพิวติ้ง เมื่อผู้ให้บริการคลาวด์ยังคงเพิ่มงบลงทุนด้าน AI แพลตฟอร์มใหม่ของ NVIDIA เพิ่มสัดส่วนการใช้ HBM, CoWoS ขยายตัวไปพร้อมกัน ผู้ผลิตหน่วยความจำผ่านการรับรองคุณภาพ และวินัยด้านราคายังคงอยู่ ธีม HBM จึงมีแนวโน้มที่จะเปลี่ยนเป็นผลประกอบการทางการเงินได้มากขึ้น ในทางกลับกัน หากงบลงทุนปลายน้ำชะลอตัว กำลังการผลิตถูกปล่อยออกมาพร้อมกันทั้งหมด ราคาตกลง หรือสต๊อกสินค้าเพิ่มขึ้น HBM อาจกลับจากเรื่องราวการเติบโตกลับไปเป็นเรื่องราววงจรอุตสาหกรรมหน่วยความจำ

สรุป: ตรรกะการลงทุนของ HBM และ GPU ไม่ใช่แค่ "NVIDIA แข็งแกร่ง บริษัท HBM ทุกแห่งก็แข็งแกร่ง" มุมมองที่สมบูรณ์ยิ่งขึ้นควรครอบคลุมถึงข้อกำหนดของแพลตฟอร์ม GPU, ปริมาณการใช้ HBM, การรับรองจากลูกค้า, การบรรจุขั้นสูง (advanced packaging), การลงทุนด้านโครงสร้างพื้นฐานของคลาวด์ (cloud capex), ราคาหน่วยความจำ และมูลค่าหุ้นของบริษัท HBM เป็นคอขวดสำคัญในห่วงโซ่อุปทาน GPU สำหรับ AI และเป็นตัวแปรสำคัญในการเปลี่ยนผ่านของอุตสาหกรรมหน่วยความจำจากวัฏจักรแบบดั้งเดิมสู่การผสมผสานผลิตภัณฑ์ AI ระดับไฮเอนด์ แต่ธีมห่วงโซ่อุปทานทุกแบบจะต้องผ่านขั้นตอนของความคาดหวัง คำสั่งซื้อ รายได้ กำไร และการปรับมูลค่าหุ้นใหม่ ก่อนทำการซื้อขาย ควรพิจารณาข้อมูลสาธารณะ ข้อมูลทางการเงิน และขอบเขตของความเสี่ยงเข้าด้วยกันอย่างรอบด้าน

เมื่อเข้าใจความสัมพันธ์ระหว่าง HBM และ GPU แล้ว การแยกแยะปัจจัยขับเคลื่อนกำไรที่แตกต่างกันทั่วทั้งห่วงโซ่อุปทานชิป AI จะง่ายขึ้น NVIDIA ได้ประโยชน์หลักจากแพลตฟอร์ม GPU และระบบนิเวศซอฟต์แวร์ TSMC ได้ประโยชน์จากโหนดการผลิตขั้นสูงและ CoWoS ผู้ผลิตหน่วยความจำได้ประโยชน์จากการอัปเกรดโครงสร้างผลิตภัณฑ์ HBM ส่วนผู้ผลิตเซิร์ฟเวอร์และผู้ให้บริการคลาวด์รับภาระการเปลี่ยนแปลงด้านการติดตั้งและการลงทุนจ่ายใช้ (capex) เมื่อติดตามหุ้นสหรัฐฯ และหุ้นฮ่องกงที่เกี่ยวข้องผ่าน Biya คุณสามารถเปรียบเทียบการเคลื่อนไหวราคา ผลประกอบการ ตารางการจัดส่ง โครงสร้างค่าธรรมเนียม และมูลค่าประเมินได้ภายในกรอบเดียวกัน Biya ไม่เก็บค่าคอมมิชชั่น ($0) สำหรับการซื้อขายหุ้นสหรัฐฯ ส่วนค่าธรรมเนียมแพลตฟอร์ม ค่าธรรมเนียมตัวแทนภายนอก และต้นทุนอื่น ๆ ขึ้นอยู่กับศูนย์ค่าธรรมเนียมและหน้าคำสั่งซื้อหุ้นห่วงโซ่อุปทาน AI ยอดนิยมอาจมีความผันผวนสูง ดังนั้นคุณควรทำความเข้าใจประเภทคำสั่งซื้อขาย โครงสร้างค่าธรรมเนียม ปัจจัยพื้นฐานของบริษัท และระดับความเสี่ยงที่ตัวคุณเองรับไหว ก่อนที่จะทำการเทรด

คำถามที่พบบ่อย

HBM เป็นส่วนหนึ่งของ GPU หรือเป็นชิปอิสระ?

HBM เป็นชุด DRAM ที่ผลิตขึ้นเป็นอิสระ แต่ใน GPU AI ระดับสูง โดยปกติจะถูกรวมเข้ากับ die ของ GPU ภายในแพ็กเกจขั้นสูงเดียวกัน มันไม่ใช่แกนประมวลผลของ GPU แต่เป็นหน่วยความจำภายในเฉพาะที่ที่จำเป็นสำหรับตัวเร่ง AI ที่สมบูรณ์ กล่าวอย่างง่ายคือ มันเป็นชิปอิสระในระดับการผลิต แต่เป็นส่วนหนึ่งของโมดูล GPU ในระดับระบบ

ทำไม GPU สำหรับเกมโดยทั่วไปจึงใช้ GDDR แทน HBM?

การ์ดจอ GPU สำหรับเกมมิ่งโดยทั่วไปมักใช้ GDDR เนื่องจากมีต้นทุนต่ำกว่าและความซับซ้อนในการแพ็กเกจต่ำกว่า จึงเหมาะสมกว่าสำหรับผลิตภัณฑ์สำหรับผู้บริโภคจำนวนมาก ส่วน HBM ให้แบนด์วิดท์ที่สูงกว่าและประสิทธิภาพที่ดีกว่า แต่ต้นทุนในการผลิต การรับรองคุณภาพ และการแพ็กเกจขั้นสูงก็สูงกว่าเช่นกัน จึงถูกใช้เป็นหลักใน AI ศูนย์ข้อมูล HPC และตัวเร่งระดับมืออาชีพระดับไฮเอนด์

ความจุ HBM ที่มากขึ้นหมายถึงประสิทธิภาพ GPU ที่แข็งแกร่งขึ้นเสมอหรือไม่?

ความจุ HBM ที่มากขึ้นไม่ได้แปลว่าประสิทธิภาพ GPU ที่แรงกว่าเสมอไป ความจุที่มากขึ้นสามารถรองรับโมเดลขนาดใหญ่ขึ้น แบตช์ที่ใหญ่ขึ้น และ KV cache ที่มากขึ้นได้ แต่ความเร็วจริงยังขึ้นอยู่กับแบนด์วิดท์ของหน่วยความจำ ความสามารถในการประมวลผล การปรับแต่งซอฟต์แวร์ สถาปัตยกรรมของโมเดล การเชื่อมต่อระหว่าง GPU และการกำหนดค่าเซิร์ฟเวอร์ ความจุเป็นตัวกำหนดว่าปริมาณงานจะพอดีกับหน่วยความจำหรือไม่ ส่วนแบนด์วิดท์และพลังการประมวลผลเป็นตัวกำหนดว่าจะทำงานได้เร็วเพียงใด

NVIDIA สามารถจัดหา HBM จากผู้ผลิตหลายรายพร้อมกันได้หรือไม่?

NVIDIA สามารถจัดหา HBM จากผู้ผลิตหลายรายได้ แต่ผลิตภัณฑ์ของผู้ผลิตแต่ละรายจะต้องผ่านการทดสอบด้านประสิทธิภาพ การใช้พลังงาน ความน่าเชื่อถือ และความเข้ากันได้ด้านการบรรจุ สำหรับแพลตฟอร์ม GPU เฉพาะรุ่น การเพิ่มผู้ผลิตสามารถขยายอุปทานและลดความเสี่ยงจากการพึ่งพิงแหล่งเดียว แต่ HBM ที่ไม่ผ่านการรับรองไม่สามารถนำมาแทนที่ในแพลตฟอร์มการผลิตได้เพียงแค่นั้น

ทำไมการขาดแคลน HBM จึงทำให้การส่งมอบ GPU ของ NVIDIA ล่าช้า?

การขาดแคลน HBM สามารถทำให้การส่งมอบ GPU ของ NVIDIA ล่าช้าได้ เนื่องจาก GPU สำหรับ AI แต่ละตัวที่พร้อมขายต้องใช้ HBM stacks ที่ผ่านการรับรองหลายชุด ตามด้วยการแพ็กเกจขั้นสูงและการทดสอบระบบ แม้ว่า GPU dies จะถูกผลิตเสร็จแล้วก็ตาม แต่การขาดแคลนของ HBM, CoWoS, substrates หรือการประกอบเซิร์ฟเวอร์ ก็ยังสามารถทำให้การส่งมอบขั้นสุดท้ายล่าช้าได้

นักลงทุนรายย่อยจะประเมินได้อย่างไรว่าห่วงโซ่อุปทาน HBM มีสภาพอุปทานล้นตลาดหรือไม่?

นักลงทุนรายย่อยควรติดตามการขยายกำลังการผลิต HBM, การรับรองลูกค้า, ราคาขายเฉลี่ย, สินค้าคงเหลือ, ระยะเวลาการส่งมอบ, การลงทุนด้านโครงสร้างพื้นฐานคลาวด์ (cloud capex) และปริมาณการจัดส่ง GPU โดยพิจารณาประกอบกันทั้งหมด แผนการเพิ่มกำลังการผลิตของผู้ผลิตเพียงอย่างเดียวยังไม่เพียงพอ ประเด็นสำคัญคือคำสั่งซื้อจะแปลงเป็นรายได้และกำไรได้หรือไม่ การตัดสินใจเฉพาะเจาะจงควรอ้างอิงจากรายงานผลประกอบการ การเปิดเผยข้อมูลของบริษัท และเอกสารที่ยื่นต่อหน่วยงานกำกับดูแล