Máy chủ AI thúc đẩy nhu cầu lưu trữ như thế nào? Vai trò của HBM, DRAM máy chủ, SSD doanh nghiệp và HDD

Máy chủ AI thúc đẩy nhu cầu lưu trữ không đơn giản vì "có nhiều máy chủ hơn", mà vì huấn luyện, suy luận, dữ liệu đa phương thức, truy xuất RAG và tích hợp dữ liệu riêng của doanh nghiệp đều khiến dữ liệu di chuyển thường xuyên giữa GPU, CPU, bộ nhớ, SSD và HDD. HBM giải quyết điểm nghẽn băng thông phía GPU. DRAM máy chủ hỗ trợ khối lượng công việc phía hệ thống. SSD doanh nghiệp xử lý dữ liệu nóng và bộ nhớ đệm suy luận. HDD cung cấp dung lượng cho hồ dữ liệu và kho lưu trữ. Nếu bạn theo dõi hạ tầng AI hoặc chuỗi cung ứng lưu trữ, bạn cần xem xét đồng thời tốc độ, dung lượng, chi phí, mức tiêu thụ điện và chu kỳ cung ứng.

Những điểm chính cần ghi nhớ

• Máy chủ AI làm tăng nhu cầu về bộ nhớ có băng thông cao, độ trễ thấp và dung lượng lớn.
• HBM gắn liền trực tiếp với điện toán GPU, với băng thông, dung lượng và hiệu suất là những động lực cốt lõi.
• DRAM máy chủ hỗ trợ CPU, lập lịch, bộ nhớ đệm, cơ sở dữ liệu và các khung dịch vụ suy luận.
• SSD doanh nghiệp xử lý dữ liệu nóng, checkpoint, tìm kiếm vector và một số khối lượng công việc KV cache.
• HDD vẫn là nền tảng dung lượng cho hồ dữ liệu AI, sao lưu, lưu trữ và dữ liệu ấm/lạnh.
• Phân tích đầu tư không chỉ nên theo dõi mức tăng giá, mà còn cả đơn hàng, công suất, hàng tồn kho và định giá.

Tại Sao Máy Chủ AI Thúc Đẩy Nhu Cầu Bộ Nhớ?

Lý do cốt lõi khiến máy chủ AI thúc đẩy nhu cầu lưu trữ là vì khối lượng công việc AI đã tiến hóa từ thuần túy “thâm dụng tính toán” sang “thâm dụng dữ liệu + thâm dụng bộ nhớ + thâm dụng lưu trữ.” Huấn luyện đòi hỏi phải đọc liên tục các tập dữ liệu lớn. Suy luận đòi hỏi phải nạp trọng số mô hình và duy trì các trạng thái ngữ cảnh. Các mô hình đa phương thức xử lý hình ảnh, âm thanh, video và nhật ký. Chỉ đơn thuần thêm nhiều GPU là chưa đủ. Dữ liệu phải được di chuyển theo từng tầng qua HBM, DRAM, SSD và HDD để các tài nguyên tính toán có thể tiếp tục hoạt động hiệu quả.

Các máy chủ truyền thống thường gặp điểm nghẽn ở CPU, mạng hoặc I/O ổ đĩa. Điểm nghẽn của máy chủ AI phức tạp hơn. GPU có thể thực hiện các phép toán ma trận khổng lồ trong thời gian cực ngắn, nhưng nếu trọng số mô hình, giá trị kích hoạt, KV cache, mẫu huấn luyện hoặc checkpoint không thể kịp thời đến được các đơn vị tính toán, GPU sẽ phải chờ dữ liệu. Bạn có thể hình dung một trung tâm dữ liệu AI như một chiếc phễu nhiều tầng: HBM gần GPU nhất là tầng nhanh nhất và đắt đỏ nhất; DRAM phía CPU cung cấp dung lượng lớn hơn nhưng băng thông thấp hơn; SSD NVMe xử lý dữ liệu nóng và các tác vụ đọc/ghi độ trễ thấp; HDD cung cấp các kho dung lượng quy mô lớn với chi phí thấp.

Thông số kỹ thuật của GB300 NVL72 của NVIDIA minh họa cho xu hướng này. Một hệ thống quy mô rack tích hợp 72 GPU Blackwell Ultra, 36 CPU Grace, 37TB bộ nhớ nhanh, 20TB bộ nhớ GPU và 17TB bộ nhớ CPU trong cùng một kiến trúc. Nói cách khác, máy chủ AI không còn chỉ đơn thuần là “GPU cắm vào bo mạch chủ”. Đó là một hệ thống dữ liệu quy mô rack, trong đó GPU, CPU, bộ nhớ, liên kết nối và lưu trữ được thiết kế cùng nhau.

Các kịch bản AI khác nhau tương ứng với các tầng lưu trữ khác nhau:

Trong chuỗi này, HBM xử lý “dữ liệu nhanh nhất”, DRAM máy chủ xử lý “dữ liệu hoạt động phía hệ thống”, SSD doanh nghiệp xử lý “các thao tác đọc/ghi thường xuyên và dữ liệu nóng”, còn HDD xử lý “dữ liệu dung lượng lớn dài hạn”. Do đó, máy chủ AI không chỉ mang lại lợi ích cho một danh mục lưu trữ duy nhất. Chúng tái cấu trúc toàn bộ kim tự tháp lưu trữ.

Tóm tắt: Máy chủ AI thúc đẩy nhu cầu lưu trữ không phải chỉ vì số lượng máy chủ, mà vì khối lượng công việc AI đồng thời mở rộng quy mô dữ liệu, tần suất truy cập, độ dài ngữ cảnh và khả năng đồng thời của hệ thống. Huấn luyện đòi hỏi đầu vào dữ liệu thông lượng cao. Suy luận đòi hỏi bộ nhớ đệm độ trễ thấp và ngữ cảnh dài hơn. Các mô hình đa phương thức đòi hỏi nhiều nguyên liệu thô hơn cần được lưu trữ. AI doanh nghiệp cũng đưa dữ liệu riêng tư vào các hệ thống mô hình. HBM, DRAM máy chủ, SSD doanh nghiệp và HDD mỗi loại giải quyết vấn đề ở các tầng khác nhau. Tầng càng gần GPU thì băng thông và độ trễ càng quan trọng. Tầng càng gần hồ dữ liệu thì dung lượng, chi phí và độ tin cậy càng quan trọng.Khi phân tích nhu cầu lưu trữ AI, bạn nên tách biệt nhu cầu dựa trên tốc độ khỏi nhu cầu dựa trên dung lượng, thay vì giả định rằng một loại lưu trữ duy nhất sẽ thay thế tất cả các loại khác.

HBM Giải Quyết Vấn Đề Gì Trong Máy Chủ AI?

Vai trò của HBM trong máy chủ AI là giải quyết "bức tường băng thông" và "bức tường dung lượng bộ nhớ" ở phía GPU. Mô hình AI càng lớn thì không gian dành cho tham số, activation và KV cache càng cần nhiều. GPU cần đọc một lượng dữ liệu khổng lồ trong khoảng thời gian cực ngắn. HBM được đặt gần package GPU và cung cấp băng thông cao hơn nhiều so với DRAM máy chủ thông thường, vì vậy nó ảnh hưởng trực tiếp đến thông lượng huấn luyện, khả năng đồng thời khi suy luận, khả năng xử lý ngữ cảnh dài và chi phí trên mỗi token.

Bạn có thể hình dung HBM như là "bàn làm việc tốc độ cao" của một GPU AI. Nếu bàn làm việc quá nhỏ, trọng số mô hình và ngữ cảnh sẽ không thể chứa vừa. Nếu việc di chuyển dữ liệu quá chậm, các tài nguyên tính toán của GPU sẽ bị bỏ không. Khi giới thiệu Blackwell Ultra, NVIDIA lưu ý rằng một GPU đơn lẻ có thể được cấu hình với 288GB HBM3e cho các mô hình lớn hơn, ngữ cảnh dài hơn và các khối lượng công việc suy luận. Điều này cho thấy việc nâng cấp HBM không chỉ nhằm mở rộng dung lượng. Dung lượng, băng thông, hiệu suất năng lượng và khả năng đóng gói đang cùng được cải thiện.

HBM cũng có rào cản nguồn cung cao hơn DRAM thông thường. Nó đòi hỏi xếp chồng nhiều lớp, TSV, đóng gói tiên tiến, kiểm soát tỷ lệ đậu và chứng nhận từ khách hàng. Nó không thể nhanh chóng bị thay thế bởi các dây chuyền sản xuất bộ nhớ thông thường. Micron công bố rằng sản phẩm HBM4 36GB 12-high dành cho NVIDIA Vera Rubin đã bước vào sản xuất khối lượng lớn, với băng thông trên mỗi ngăn xếp vượt 2,8TB/s và hiệu suất điện năng được cải thiện. Điều này cho thấy HBM đã chuyển từ việc là một "sản phẩm bộ nhớ cao cấp" sang trở thành một phần trong lộ trình của các nền tảng AI.

Sự phân công lao động giữa HBM và các loại bộ nhớ khác có thể được hiểu như sau:

Nhu cầu HBM cũng ảnh hưởng ngược lại đến thị trường DRAM thông thường. Trong phần thảo luận về nhu cầu máy chủ AI, TrendForce lưu ý rằng các nhà cung cấp DRAM tiếp tục chuyển dịch năng lực sang HBM và các ứng dụng máy chủ, trong khi giá hợp đồng của DRAM truyền thống và NAND Flash cũng bị ảnh hưởng bởi tình trạng cung cầu căng thẳng. Điều này có nghĩa là HBM không chỉ là một sản phẩm độc lập. Nó thay đổi cách phân bổ năng lực wafer, chi tiêu vốn và chiến lược ràng buộc khách hàng.

Đối với nhà đầu tư, việc theo dõi HBM không nên dừng lại ở câu hỏi "giá đã tăng bao nhiêu." Một số biến số quan trọng cần lưu ý:

• Liệu dung lượng HBM trên mỗi GPU có tiếp tục tăng hay không;
• Tốc độ chuyển đổi từ HBM3E sang HBM4 và HBM4E;
• Tiến trình kiểm định với NVIDIA, AMD, Google và các khách hàng ASIC;
• Các thỏa thuận cung ứng dài hạn và phương thức thanh toán trước của các nhà cung cấp bộ nhớ;
• Việc phân bổ dung lượng HBM có làm ảnh hưởng đến nguồn cung DRAM máy chủ hoặc DRAM tiêu dùng hay không.

Tóm tắt: HBM là dòng sản phẩm lưu trữ có liên hệ trực tiếp nhất với điện toán GPU trong máy chủ AI. Nó giải quyết các vấn đề về băng thông, dung lượng và hiệu suất năng lượng ở phía GPU. Việc huấn luyện mô hình lớn, đồng thời suy luận (inference concurrency), khối lượng công việc ngữ cảnh dài và AI tác nhân (agentic AI) đều làm tăng áp lực lên HBM. Nhưng giá trị của HBM không chỉ đến từ "nhu cầu mạnh mẽ". Nó còn đến từ công nghệ quy trình, đóng gói, tỷ lệ sản lượng đạt chuẩn, việc được khách hàng chứng nhận và các mối quan hệ cung ứng dài hạn. HBM không đơn thuần thay thế DRAM thông thường. Nó nằm ở một tầng tốc độ cao, gần GPU hơn. Khi phân tích chuỗi cung ứng HBM, bạn cần theo dõi lộ trình nền tảng GPU, dung lượng HBM trên mỗi thẻ, tỷ lệ của nhà cung cấp, quá trình tăng công suất và mức độ ràng buộc khách hàng ở hạ nguồn.

Tại Sao DRAM Máy Chủ Cũng Được AI Thúc Đẩy?

DRAM máy chủ được thúc đẩy bởi AI vì một lượng lớn các tác vụ phía hệ thống ngoài GPU vẫn đòi hỏi CPU và bộ nhớ máy chủ. HBM đảm nhận việc tính toán cục bộ của GPU, nhưng việc tiền xử lý dữ liệu, lập lịch tác vụ, cơ sở dữ liệu, truy xuất vector, ngăn xếp giao thức mạng, khung dịch vụ suy luận, ảo hóa và quản lý container đều phụ thuộc vào DRAM máy chủ. Càng nhiều suy luận AI lan rộng, cấu hình bộ nhớ máy chủ chung càng có khả năng được nâng lên mức cao hơn.

Một quan niệm hiểu lầm phổ biến là bộ nhớ DRAM máy chủ có thể trở nên ít quan trọng hơn vì HBM nằm gần GPU hơn. Sự thật là ngược lại. Các cụm AI là những hệ thống không đồng nhất. GPU không tự mình hoàn thành mọi tác vụ. Các dịch vụ mô hình cần CPU để xử lý việc phân phối yêu cầu, lập lịch token, quản lý bộ nhớ đệm, ghi log và các chính sách bảo mật. Hệ thống RAG cũng gọi đến các cơ sở dữ liệu vector và thư viện tài liệu doanh nghiệp. Các triển khai đám mây riêng tư bổ sung thêm container, giám sát, phân quyền và quản trị dữ liệu. Tất cả những tác vụ này đòi hỏi bộ nhớ máy chủ có dung lượng cao hơn, hiệu năng cao hơn và tiêu thụ điện năng thấp hơn.

Trong kết quả kinh doanh quý 3 năm 2025, SK hynix lưu ý rằng doanh số mạnh mẽ của HBM và các sản phẩm máy chủ hiệu năng cao đã hỗ trợ kết quả quý, đồng thời cho biết các cuộc đàm phán cung ứng HBM cho năm sau đã hoàn tất. Loại nhận xét này cho thấy nhu cầu phía máy chủ không chỉ tập trung vào HBM. Nó còn bao gồm DDR5 dung lượng cao, SSD dành cho doanh nghiệp và danh mục bộ nhớ rộng hơn cho các máy chủ AI.

Các kịch bản nhu cầu chính cho DRAM máy chủ bao gồm:

CXL, memory pooling và các module có dung lượng lớn hơn cũng là những điểm đáng chú ý. Ý nghĩa của CXL nằm ở chỗ nó có thể giải phóng việc mở rộng bộ nhớ khỏi những giới hạn của bo mạch chủ trong từng máy chủ, cho phép các trung tâm dữ liệu cấu hình tài nguyên bộ nhớ một cách linh hoạt hơn. Nó sẽ không ngay lập tức thay thế DRAM truyền thống, nhưng có thể thay đổi cơ cấu mua sắm bộ nhớ máy chủ. Một số khối lượng công việc tần suất cao sẽ tiếp tục sử dụng DRAM cục bộ, trong khi một số khối lượng công việc mở rộng dung lượng có thể sử dụng các memory pool CXL hoặc các loại module mới.

Logic đầu tư cho server DRAM khác với HBM. HBM là sản phẩm có rào cản cao, ASP cao và tập trung vào khách hàng. Server DRAM có phạm vi tiếp xúc rộng hơn và chịu ảnh hưởng đồng thời từ suy luận AI (AI inference), máy chủ đa năng, chi tiêu CNTT doanh nghiệp và chi tiêu vốn của điện toán đám mây. Độ co giãn của nó có thể không cực đoan như HBM, nhưng độ bền của nó phụ thuộc nhiều hơn vào việc liệu suy luận AI có thực sự lan rộng từ một số ít nền tảng mô hình siêu lớn sang các ứng dụng doanh nghiệp hay không.

Tóm tắt: DRAM máy chủ được thúc đẩy bởi AI vì máy chủ AI không chỉ hoạt động nhờ GPU. Việc lập lịch phía CPU, tiền xử lý dữ liệu, truy xuất vector, quản lý bộ nhớ đệm, các framework dịch vụ suy luận (inference) và triển khai đám mây riêng tư doanh nghiệp đều đòi hỏi bộ nhớ hệ thống lớn hơn và hiệu suất cao hơn. HBM giải quyết băng thông phía GPU, trong khi DRAM máy chủ hỗ trợ khối lượng công việc phía hệ thống. Chúng phân chia trách nhiệm cho nhau thay vì thay thế lẫn nhau. Khi đánh giá nhu cầu DRAM máy chủ, bạn không chỉ nên nhìn vào các cụm huấn luyện mà còn cần theo dõi việc triển khai dịch vụ suy luận, các ứng dụng RAG, xu hướng AI hóa riêng tư của doanh nghiệp, chu kỳ làm mới máy chủ đám mây, và các kiến trúc mới như CXL.

SSD Doanh Nghiệp Xử Lý Những Nhiệm Vụ Nào Trong Máy Chủ AI?

Vai trò cốt lõi của SSD doanh nghiệp trong máy chủ AI là xử lý các tác vụ đọc/ghi thường xuyên, dữ liệu nóng, tải mô hình, lưu điểm kiểm tra (checkpoint), truy xuất vector và một số khối lượng công việc bộ nhớ đệm suy luận. Chúng không gần GPU như HBM, cũng không tập trung vào dung lượng chi phí thấp như HDD. Thay vào đó, chúng chiếm một tầng quan trọng giữa tốc độ và dung lượng. AI suy luận, RAG và AI tác tử (agentic AI) càng phát triển, SSD doanh nghiệp càng trở nên quan trọng trong đường truyền dữ liệu.

Trong quá trình huấn luyện, SSD thường được sử dụng để đọc các mẫu huấn luyện, ghi checkpoint, lưu trữ kết quả trung gian và hỗ trợ khôi phục tác vụ. Các công việc huấn luyện lớn chạy trong thời gian dài. Một khi bị gián đoạn, chúng cần được khôi phục nhanh chóng từ checkpoint. Nếu hệ thống lưu trữ ghi quá chậm, điều này không chỉ có thể ảnh hưởng đến việc khôi phục mà còn làm chậm tiến trình huấn luyện. Trong quá trình suy luận, vai trò của SSD được mở rộng hơn nữa: tải trọng số mô hình, chỉ mục embedding, cơ sở dữ liệu vector, ngữ cảnh người dùng và bộ nhớ đệm kết quả truy xuất đều có thể phụ thuộc vào SSD NVMe có độ trễ thấp.

Trong AI to Reshape the Global Technology Landscape, TrendForce nhận định rằng SSD QLC đang được sử dụng trong các tầng lưu trữ dữ liệu AI ấm và lạnh, chẳng hạn như lưu checkpoint mô hình và lưu trữ dataset, đồng thời dự báo SSD QLC sẽ chiếm khoảng 30% thị trường SSD doanh nghiệp vào năm 2026. Điều này cho thấy sự tăng trưởng của SSD doanh nghiệp không chỉ đến từ các sản phẩm TLC hiệu năng cao, mà còn từ các sản phẩm QLC nhấn mạnh chi phí trên mỗi đơn vị dung lượng.

KV cache là một lĩnh vực khác đáng chú ý. Suy luận ngữ cảnh dài và hội thoại nhiều lượt có thể khiến KV cache tăng trưởng nhanh chóng, và HBM của GPU cùng DRAM của máy chủ có thể không đủ. Trong quan sát về thị trường SSD doanh nghiệp, TrendForce nhận định rằng dịch vụ AI Agent và nhu cầu mua sắm của CSP đã thúc đẩy doanh thu SSD doanh nghiệp đạt mức kỷ lục, đồng thời đề cập rằng chi phí DRAM và giới hạn dung lượng đang thúc đẩy thị trường đưa SSD hiệu năng cao vào hệ thống phân cấp bộ nhớ. Nghiên cứu học thuật cũng đang khám phá KV cache dựa trên SSD. Ví dụ, Tutti đưa SSD NVMe vào phục vụ LLM ngữ cảnh dài nhằm giảm bớt ràng buộc dung lượng HBM và DRAM.

SSD doanh nghiệp cũng cần được phân tầng:

Khi phân tích nhu cầu SSD doanh nghiệp, bạn cần phân biệt “nhu cầu hướng hiệu suất” với “nhu cầu hướng dung lượng.” Nhu cầu hướng hiệu suất đến từ suy luận độ trễ thấp, cơ sở dữ liệu vector và bộ nhớ đệm. Nhu cầu hướng dung lượng đến từ bộ dữ liệu huấn luyện, checkpointing, tài liệu đa phương thức và hồ dữ liệu doanh nghiệp. Cả hai loại nhu cầu đều được thúc đẩy bởi AI, nhưng chúng tương ứng với các sản phẩm, biên lợi nhuận và nhà cung cấp khác nhau.

Tóm tắt: SSD doanh nghiệp là một trong những tầng bị đánh giá thấp nhất trong lưu trữ AI. Chúng không gắn liền với GPU một cách trực tiếp như HBM, và kinh tế học về dung lượng của chúng cũng không rõ ràng như HDD, nhưng chúng xử lý dữ liệu nóng, checkpointing, tải mô hình, truy xuất RAG, và một số khối lượng công việc KV cache. Khi AI chuyển từ huấn luyện sang suy luận quy mô lớn, SSD đang chuyển từ “thiết bị lưu trữ dữ liệu” thành một phần của đường dẫn dịch vụ suy luận. Phân tích cần tách biệt SSD TLC, QLC, SCM, và nearline vì chúng tương ứng với các nhu cầu khác nhau: độ trễ thấp, độ bền cao, chi phí dung lượng, và mở rộng phân cấp bộ nhớ mới.

Tại Sao HDD Vẫn Là Nền Tảng Dung Lượng của Các Trung Tâm Dữ Liệu AI?

Ổ cứng HDD vẫn là nền tảng dung lượng của các trung tâm dữ liệu AI vì không phải tất cả dữ liệu đều cần được lưu trữ trên SSD hay bộ nhớ. Dữ liệu huấn luyện thô, hình ảnh, video, âm thanh, nhật ký, bản sao lưu, hồ sơ tuân thủ và các phiên bản lịch sử thường thuộc về dữ liệu ấm hoặc dữ liệu lạnh. Chúng quan tâm nhiều hơn đến giá $/TB, độ tin cậy và chi phí triển khai quy mô lớn. Càng nhiều dữ liệu AI tạo ra, giá trị của HDD với tư cách là dung lượng chi phí thấp càng trở nên rõ ràng.

Kỷ nguyên AI chưa khiến ổ HDD biến mất. Thay vào đó, nó đã làm rõ vai trò của chúng. SSD xử lý dữ liệu nóng và truy cập độ trễ thấp. HDD xử lý các hồ dữ liệu khổng lồ và lưu trữ dài hạn. Điều này đặc biệt đúng với các mô hình đa phương thức và tích hợp dữ liệu riêng của doanh nghiệp, vốn tạo ra lượng lớn dữ liệu phi cấu trúc. Nếu toàn bộ dữ liệu được lưu trữ trên SSD, chi phí, mức tiêu thụ điện năng và mật độ rack sẽ trở thành những ràng buộc lớn.

The Long-Term Case for HDD Storage của Western Digital nhấn mạnh rằng các trung tâm dữ liệu xem xét TCO, chi phí mua sắm, mức tiêu thụ điện năng, mật độ, hiệu năng và vòng đời khi lựa chọn phương án lưu trữ, đồng thời trích dẫn quan điểm của IDC rằng SSD có mức giá $/TB cao hơn HDD từ 5–10 lần. Khoảng cách này giải thích lý do tại sao các trung tâm dữ liệu hyperscale có thể mua số lượng lớn SSD nhưng vẫn duy trì HDD ở tầng dung lượng.

Seagate cũng đã kết nối các ổ đĩa dung lượng cao với các trung tâm dữ liệu AI, chủ quyền dữ liệu và đầu tư hạ tầng dữ liệu lai khi công bố ổ đĩa 30TB của mình. Các ổ HDD nearline dung lượng cao, HAMR và UltraSMR đều hướng tới cùng một mục tiêu: tăng mật độ dung lượng hữu ích và giảm chi phí lưu trữ dữ liệu dài hạn trong các giới hạn giống nhau về rack, điện năng và bảo trì.

Sự phân công lao động giữa SSD và HDD có thể được hiểu như sau:

Rủi ro đối với HDD cũng cần được nhìn rõ. Khi dung lượng SSD QLC tăng lên, nó có thể thay thế một số tình huống HDD nearline. Nếu các trung tâm dữ liệu AI đặt nặng hơn về mức tiêu thụ điện năng và tốc độ đọc, SSD có thể tiếp quản một phần lớp dữ liệu ấm. Nhưng miễn là AI tiếp tục tạo ra khối lượng lớn dữ liệu phi cấu trúc, HDD vẫn giữ được lợi thế kinh tế khó thay thế.

Tóm tắt: Giá trị của HDD trong các trung tâm dữ liệu AI không nằm ở tốc độ, mà ở nền kinh tế của dung lượng quy mô lớn. Huấn luyện AI, dữ liệu đa phương thức, hồ dữ liệu doanh nghiệp, nhật ký, sao lưu và lưu trữ tuân thủ đều tạo ra dữ liệu không cần truy cập thời gian thực nhưng phải được lưu trữ trong thời gian dài. SSD sẽ mở rộng trong các tình huống dữ liệu nóng và một số tình huống dữ liệu ấm, và SSD QLC cũng có thể xói mòn một số trường hợp sử dụng HDD, nhưng HDD vẫn đóng vai trò là nền tảng dung lượng. Khi phân tích chuỗi cung ứng HDD, cần tập trung vào đơn hàng của khách hàng siêu quy mô, sản phẩm nearline dung lượng cao, tiến độ của HAMR, thỏa thuận mua hàng dài hạn, mức tồn kho và chi phí trên một đơn vị dung lượng.

Làm Thế Nào Để Xác Định Nhu Cầu Lưu Trữ AI Là Chu Kỳ Ngắn Hạn Hay Xu Hướng Dài Hạn?

Để đánh giá nhu cầu lưu trữ dành cho AI, bạn cần tách biệt sự tăng trưởng dữ liệu dài hạn khỏi chu kỳ giá ngắn hạn. Về lâu dài, dữ liệu huấn luyện, nội dung đa phương thức, bộ nhớ đệm cho suy luận (inference cache), dữ liệu nội bộ của doanh nghiệp và chủ quyền dữ liệu đều làm tăng nhu cầu về dung lượng lưu trữ. Về ngắn hạn, giá lưu trữ có thể bị ảnh hưởng bởi sự dịch chuyển công suất, việc khách hàng cam kết sớm (lock-in), việc điều chỉnh hàng tồn kho và chu kỳ chi tiêu vốn. Nhu cầu thực tế là có, nhưng điều đó không có nghĩa là giá và giá cổ phiếu sẽ tăng theo đường thẳng.

Ngành lưu trữ vốn có tính chu kỳ. DRAM, NAND và HDD đều đã trải qua các chu kỳ "giá tăng—mở rộng công suất—tồn kho tích tụ—giá giảm". AI làm thay đổi cấu trúc nhu cầu và mức độ gắn kết khách hàng, nhưng không loại bỏ chu kỳ. Khi đưa tin về việc các tập đoàn công nghệ tăng chi tiêu vốn cho trung tâm dữ liệu và hạ tầng AI, Reuters đã lưu ý rằng các công ty lưu trữ dữ liệu hưởng lợi từ nhu cầu dữ liệu AI, và Western Digital cùng Seagate ghi nhận đơn hàng và kỳ vọng thị trường được cải thiện. Nhưng nếu chi tiêu vốn của điện toán đám mây chậm lại hoặc khách hàng tích trữ hàng quá sớm, các đợt điều chỉnh tồn kho vẫn có thể xảy ra.

Bạn có thể theo dõi nhu cầu lưu trữ AI bằng danh sách kiểm tra sau đây:

Một góc nhìn về chi phí giao dịch cũng rất quan trọng. Nếu bạn theo dõi các cổ phiếu chuỗi cung ứng lưu trữ AI, chẳng hạn như các công ty bộ nhớ, ổ cứng, thiết bị bán dẫn, máy chủ và trung tâm dữ liệu, bạn cần nghiên cứu không chỉ kết quả tài chính và đơn hàng mà còn cả chi phí giao dịch thực tế. Chi phí giao dịch cổ phiếu Mỹ thường bao gồm nhiều thứ hơn là chỉ hoa hồng. Chúng có thể bao gồm cả phí nền tảng, phí đại lý bên ngoài, phí hoạt động giao dịch và các khoản phí khác. Phí giao dịch cổ phiếu Mỹ của Biya nêu rõ hoa hồng giao dịch cổ phiếu Mỹ là $0, trong khi phí nền tảng, phí đại lý bên ngoài và các khoản phí khác tùy thuộc vào trung tâm phí và trang đơn hàng.Sự khả dụng của các dịch vụ liên quan phụ thuộc vào vị trí của người dùng, kết quả xác minh danh tính, quy tắc của nền tảng, cũng như các luật và quy định hiện hành. Thông tin thị trường công khai và cấu trúc phí không cấu thành lời khuyên đầu tư.

Các yếu tố rủi ro cũng quan trọng không kém. Nếu chi tiêu vốn cho AI được đẩy mạnh quá mức ở giai đoạn đầu, các nhà cung cấp thiết bị lưu trữ có thể đạt kết quả ngắn hạn mạnh mẽ nhưng sau đó sẽ phải đối mặt với tình trạng đơn hàng chậm lại. Nếu công suất HBM mở rộng nhanh hơn nhu cầu, độ co giãn về giá có thể suy yếu. SSD QLC có thể thay thế một số kịch bản của HDD. CXL và memory pooling có thể thay đổi cấu trúc mua sắm DRAM của máy chủ. Các thỏa thuận dài hạn với khách hàng có thể giảm thiểu biến động, nhưng chúng cũng có thể hạn chế thêm khả năng tăng giá trong tương lai.

Tóm tắt: Nhu cầu lưu trữ phục vụ AI vừa là xu hướng dài hạn vừa là chu kỳ ngắn hạn. Xu hướng dài hạn đến từ quy mô dữ liệu, việc triển khai suy luận (inference), nội dung đa phương thức, AI doanh nghiệp và chủ quyền dữ liệu. Chu kỳ ngắn hạn đến từ việc phân bổ công suất, nhịp điều chỉnh giá, mức hàng tồn kho, sự ràng buộc của khách hàng và biến động chi tiêu vốn. Đối với nhà đầu tư, điểm quan trọng nhất là không nên đồng nhất "tăng trưởng nhu cầu" với "mọi công ty lưu trữ đều sẽ tiếp tục hưởng lợi". Mỗi công ty có mức độ liên quan khác nhau đến HBM, DRAM, NAND, SSD doanh nghiệp, HDD và thiết bị. Độ co giãn lợi nhuận, mức định giá và rủi ro chu kỳ của họ cũng khác nhau. Phương pháp phân tích đáng tin cậy hơn là theo dõi riêng biệt từng loại sản phẩm, khách hàng, công suất, đơn hàng và giá cả.

Nếu bạn theo dõi chuỗi cung ứng máy chủ AI, lĩnh vực lưu trữ nên được đặt trong một khung quan sát rộng hơn. Ở thượng nguồn, bạn có thể theo dõi HBM, DRAM, NAND, HDD và đóng gói tiên tiến. Ở trung nguồn, bạn có thể xem xét máy chủ, bộ chuyển mạch, làm mát bằng chất lỏng, hệ thống điện và xây dựng trung tâm dữ liệu. Ở hạ nguồn, bạn có thể theo dõi chi tiêu vốn của các công ty đám mây, việc triển khai AI trong doanh nghiệp và mức độ sử dụng suy luận. Bạn cũng có thể sử dụng tra cứu thông tin cổ phiếu Mỹ để theo dõi báo giá của các công ty liên quan, ngày công bố báo cáo tài chính và thông tin cơ bản, đồng thời sử dụng Biya để ghi lại các giao dịch đa tài sản, chi phí ngoại hối và chi tiết thanh toán. Nếu dịch vụ khả dụng ở khu vực của bạn, bạn nên xem xét các quy tắc của nền tảng, phí giao dịch và yêu cầu quy định địa phương trước khi sử dụng.Chuỗi cung ứng lưu trữ có thể biến động, và mọi quyết định giao dịch nên dựa trên phán đoán độc lập và mức độ chấp nhận rủi ro cá nhân.

Câu hỏi thường gặp

Tại sao máy chủ AI cần cả HBM và Server DRAM?

Máy chủ AI cần cả HBM và server DRAM vì chúng phục vụ các tầng tính toán khác nhau. HBM nằm gần GPU và hỗ trợ truy cập tốc độ cao vào trọng số mô hình, activation và KV cache. Server DRAM nằm gần CPU hơn và hỗ trợ lập lịch, caching, cơ sở dữ liệu, các framework dịch vụ suy luận và quản lý hệ thống. Chúng bổ sung cho nhau thay vì thay thế nhau.

Enterprise SSD đóng vai trò gì trong suy luận AI?

SSD doanh nghiệp trong suy luận AI chủ yếu hỗ trợ tải mô hình, đọc dữ liệu nóng, truy xuất vector, truy cập dữ liệu RAG, lưu checkpoint và một số kịch bản KV cache. Độ trễ thấp, IOPS cao và hiệu suất ghi ổn định có thể ảnh hưởng đến chất lượng dịch vụ suy luận, nhưng cấu hình chính xác phụ thuộc vào kích thước mô hình, mức độ đồng thời, độ dài ngữ cảnh và kiến trúc hệ thống.

Tại Sao HDD Chưa Được Thay Thế Hoàn Toàn Bởi SSD?

HDD chưa được thay thế hoàn toàn bởi SSD vì các trung tâm dữ liệu AI vẫn cần một nền tảng lưu trữ dung lượng lớn với chi phí thấp. SSD phù hợp hơn cho dữ liệu nóng và các tác vụ độ trễ thấp, trong khi HDD phù hợp hơn cho hồ dữ liệu, tài liệu huấn luyện, nhật ký, sao lưu và lưu trữ. Trong các kiến trúc lưu trữ phân tầng, hai loại này bổ sung cho nhau thay vì thuần túy thay thế lẫn nhau.

Những Tình Huống Trung Tâm Dữ Liệu AI Nào Phù Hợp Với SSD QLC?

SSD QLC phù hợp hơn cho các tình huống trung tâm dữ liệu AI nhạy cảm về dung lượng với tần suất truy cập trung bình, chẳng hạn như lưu checkpoint mô hình, lưu trữ bộ dữ liệu, dữ liệu ấm, một số lưu trữ đối tượng và các tầng dữ liệu gần trực tuyến (nearline). Các khối lượng công việc có ghi nhiều, độ bền cao và độ trễ thấp vẫn cần đánh giá SSD TLC, SSD SCM hoặc các lựa chọn cấp doanh nghiệp khác.

Nhà Đầu Tư Có Thể Theo Dõi Sự Thay Đổi Của Nhu Cầu Lưu Trữ AI Như Thế Nào?

Nhà đầu tư có thể theo dõi chi tiêu vốn của ngành điện toán đám mây, sản lượng xuất xưởng máy chủ AI, các thỏa thuận cung ứng HBM, giá hợp đồng DRAM/NAND, doanh thu SSD doanh nghiệp, đơn hàng ổ cứng HDD dung lượng cao và mức tồn kho. Một tiêu đề về việc tăng giá đơn lẻ là không đủ để đánh giá xu hướng dài hạn. Kết quả tài chính, công suất, cơ cấu khách hàng và rủi ro định giá cần được phân tích cùng nhau.

Tăng trưởng Nhu cầu Lưu trữ AI Có mang lại Lợi ích cho Tất cả Các Công ty Lưu trữ không?

Tăng trưởng nhu cầu lưu trữ AI không nhất thiết mang lại lợi ích cho tất cả các công ty lưu trữ. Các công ty khác nhau có mức độ tiếp xúc khác nhau với HBM, DRAM máy chủ, NAND, SSD doanh nghiệp, HDD, bộ điều khiển và thiết bị. Độ co giãn của lợi nhuận cũng khác nhau. Mức độ tập trung khách hàng, mở rộng công suất, kiểm soát chi phí, tình hình tồn kho và định giá hiện tại đều cần được xem xét.