Kiến trúc Lưu trữ Trung tâm Dữ liệu AI: HBM, DRAM, SSD và HDD Mỗi Loại Đóng Vai Trò Gì?

Các trung tâm dữ liệu AI không chỉ hoạt động dựa trên GPU và HBM. Chúng dựa vào một kiến trúc lưu trữ phân tầng bao gồm HBM, DRAM, SSD và HDD. Càng gần với chip tính toán, tầng lưu trữ càng chú trọng băng thông, độ trễ và hiệu suất năng lượng. Càng gần với tầng hồ dữ liệu và lưu trữ, nó càng chú trọng dung lượng, độ tin cậy và chi phí trên mỗi terabyte. Một khi bạn hiểu được cách bốn loại lưu trữ này phân chia trách nhiệm, bạn có thể đánh giá tốt hơn các điểm nghẽn của máy chủ AI, CAPEX của đám mây, thứ tự các công ty bộ nhớ có thể được hưởng lợi, và lý do tại sao AI có thể đồng thời thúc đẩy nhu cầu đối với HBM, NAND và HDD.

Những điểm chính cần nắm

• HBM xử lý tính toán băng thông cao gần GPU, không phải lưu trữ dữ liệu dài hạn.
• DRAM hỗ trợ bộ nhớ hệ thống phía CPU, lập lịch, tiền xử lý và tràn bộ nhớ đệm.
• SSD xử lý dữ liệu nóng, tải mô hình, checkpoint và truy cập bền vững tốc độ cao.
• HDD vẫn là nền tảng chi phí cho dữ liệu lạnh, lưu trữ, sao lưu và hồ dữ liệu dung lượng lớn.
• Suy luận AI có thể làm tăng nhu cầu đối với HBM, DRAM, SSD và HDD cùng một lúc.
• Để đánh giá phân khúc lưu trữ nào được hưởng lợi trước, bạn cần xác định điểm nghẽn xuất hiện ở đâu.

Kiến trúc lưu trữ trung tâm dữ liệu AI là gì: Từ HBM của GPU đến HDD cho dữ liệu lạnh

Kiến trúc lưu trữ trung tâm dữ liệu AI là một hệ thống phân tầng. HBM nằm gần GPU và bộ tăng tốc AI nhất, cung cấp khả năng truyền dữ liệu băng thông cao. DRAM ở phía CPU hỗ trợ bộ nhớ hệ thống và việc lập lịch tác vụ. SSD trong máy chủ và các nút lưu trữ chứa dữ liệu được truy cập thường xuyên. Các hồ dữ liệu quy mô lớn, sao lưu và lưu trữ lâu dài dựa vào HDD. Bốn tầng này không thay thế cho nhau. Chúng phối hợp với nhau dựa trên tốc độ, dung lượng, chi phí và tần suất truy cập.

Micron AI data center mô tả hạ tầng AI như một hệ thống phân cấp bộ nhớ và lưu trữ hoàn chỉnh. Cách tiếp cận này rất quan trọng: các khối lượng công việc AI không đặt tất cả dữ liệu vào phương tiện nhanh nhất. Thay vào đó, các loại dữ liệu khác nhau được đặt ở nơi phù hợp nhất.

Tại sao bạn không nên chỉ tập trung vào GPU và HBM? Huấn luyện AI cần liên tục đọc các bộ dữ liệu, vì vậy SSD và lưu trữ mạng ảnh hưởng đến mức-utilization (tỉ lệ sử dụng) của GPU. Suy luận AI cần xử lý ngữ cảnh người dùng, log và cache, vì vậy DRAM và SSD ảnh hưởng đến thông lượng. Các tệp mô hình, dữ liệu huấn luyện, log giám sát, dữ liệu vector và lịch sử tương tác cũng không thể lưu trữ lâu dài trong HBM. Một trung tâm dữ liệu thực tế được thiết kế để cân bằng giữa sức mạnh tính toán, dung lượng và chi phí năng lượng.

Có bốn quan niệm sai lầm phổ biến. Thứ nhất, việc có nhiều HBM hơn không khiến SSD trở nên vô dụng. Thứ hai, SSD rẻ hơn không ngay lập tức loại bỏ HDD. Thứ ba, DRAM không chỉ là bộ nhớ máy chủ truyền thống; nó rất quan trọng cho suy luận AI. Thứ tư, nhu cầu lưu trữ AI không chỉ đến từ huấn luyện. Nó còn đến từ suy luận, nhật ký và vòng phản hồi dữ liệu. Trên thực tế, dòng dữ liệu AI mang tính tuần hoàn: dữ liệu thô đi vào tầng lưu trữ, được làm sạch, đọc, dùng để huấn luyện và chuyển đổi thành mô hình; các mô hình đó sau đó được sử dụng cho suy luận, và kết quả suy luận tạo ra nhật ký và dữ liệu phản hồi mới quay trở lại hệ thống lưu trữ.

Tóm tắt: Các trung tâm dữ liệu AI cần lưu trữ phân tầng vì các loại dữ liệu khác nhau có tần suất truy cập, yêu cầu độ trễ và ràng buộc chi phí khác nhau. HBM giải quyết nút thắt băng thông gần GPU. DRAM giải quyết nút thắt bộ nhớ hệ thống và lập lịch. SSD giải quyết nút thắt dữ liệu nóng và lưu trữ bền vững tốc độ cao. HDD giải quyết nút thắt chi phí của việc lưu trữ dữ liệu quy mô lớn dài hạn. Việc hiểu kiến trúc phân tầng này thực tế hơn so với việc phân tích riêng lẻ bất kỳ sản phẩm lưu trữ nào.

HBM Làm Gì: Bộ Nhớ Băng Thông Cao Gần GPU

HBM đảm nhận việc truyền dữ liệu tuyến đầu cho các bộ tăng tốc AI. Nó không phải là ổ cứng, cũng không phải là bộ nhớ máy chủ thông thường. Đó là bộ nhớ băng thông cao phục vụ trực tiếp cho GPU, AI ASIC và các chip tính toán hiệu năng cao. Trong quá trình huấn luyện và suy luận mô hình lớn, các lõi tính toán liên tục đọc trọng số, dữ liệu kích hoạt và dữ liệu bộ nhớ đệm. Nếu nguồn cung dữ liệu không theo kịp, khả năng tính toán của GPU sẽ bị bỏ trống. Giá trị của HBM nằm ở việc giảm thời gian chờ đợi đó.

Ý tưởng cơ bản đằng sau HBM là xếp chồng nhiều đế DRAM theo phương thẳng đứng và kết nối chúng với chip tính toán thông qua các giao diện rộng và công nghệ đóng gói tiên tiến. Tài liệu của Samsung HBM4E cho thấy thế hệ HBM4E tiếp theo hướng đến AI, GPU và điện toán hiệu năng cao, với băng thông đạt mức 4.0 TB/s. Các chỉ số này cho thấy cuộc cạnh tranh về HBM không còn chỉ xoay quanh dung lượng mà còn liên quan đến băng thông, mức tiêu thụ điện năng, công nghệ đóng gói và nguồn cung ổn định.

Tuy nhiên, điểm nghẽn của HBM không chỉ nằm ở giá cả. Nó còn bị giới hạn bởi công nghệ tiến trình tiên tiến, xếp lớp (stacking), TSV, đóng gói, kiểm thử, tỷ lệ hạt và chứng thực của khách hàng. Việc gia nhập chuỗi cung ứng của một GPU hoặc AI ASIC thường đòi hỏi một chu kỳ xác thực dài. Nhà cung cấp không chỉ cần sản xuất mẫu thử, mà còn phải chứng minh rằng sản phẩm của họ có thể vận hành ổn định trong điều kiện công suất cao, nhiệt độ cao và đồng thời cao. Samsung, SK hynix và Micron là những nhà cung cấp HBM lớn, nhưng mỗi công ty có thể khác nhau về thế hệ sản phẩm, tỷ lệ hạt, chứng nhận khách hàng và phân bổ năng lực.

Khi theo dõi HBM, bạn không nên chỉ nhìn vào cụm từ "cầu mạnh." Những chỉ báo hữu ích hơn bao gồm tiến độ sản xuất HBM3E, HBM4 và HBM4E, dung lượng mỗi gói, băng thông, chứng nhận từ khách hàng, năng lực đóng gói, tỷ lệ sản phẩm đạt chuẩn, mức giá cao hơn, và doanh thu HBM tính theo tỷ trọng trong hoạt động kinh doanh của từng công ty bộ nhớ. Nếu nguồn cung HBM khan hiếm và quá trình xác nhận từ khách hàng diễn ra suôn sẻ, đòn bẩy lợi nhuận có thể mạnh hơn. Nếu mở rộng quá nhanh hoặc khách hàng thay đổi thiết kế, định giá cũng có thể điều chỉnh nhanh chóng.

Tóm tắt: HBM là lớp bộ nhớ có băng thông cao, gần nhất với lõi tính toán trong các trung tâm dữ liệu AI. Nó chủ yếu giải quyết vấn đề truyền dữ liệu cho GPU và bộ tăng tốc AI. Nó rất quan trọng cho huấn luyện, suy luận, ngữ cảnh dài và phối hợp đa GPU, nhưng bị giới hạn bởi đóng gói, tỷ lệ đạt sản lượng, điện năng, dung lượng và quá trình phê duyệt của khách hàng. Tăng trưởng nhu cầu HBM thường mang lại lợi ích trực tiếp nhất cho các ông trùm bộ nhớ tiên tiến có năng lực sản xuất hàng loạt mạnh mẽ; không phải công ty lưu trữ nào cũng được hưởng lợi như nhau.

DRAM Làm Gì: Bộ Nhớ Hệ Thống Phía CPU và Lớp Bộ Đệm Điều Phối

DRAM hỗ trợ bộ nhớ hệ thống phía CPU, điều phối tác vụ, tiền xử lý dữ liệu và chuyển tràn bộ nhớ đệm trong máy chủ AI. Nó không gần GPU như HBM, nhưng nó quyết định việc máy chủ có thể tổ chức dữ liệu, lên lịch các yêu cầu, quản lý I/O và hấp thụ một phần áp lực bộ nhớ đệm hay không. Nếu thiếu DRAM, GPU có thể có sức mạnh tính toán mạnh nhưng thiếu sự hỗ trợ ổn định về dữ liệu và tác vụ ở cấp hệ thống.

Sự khác biệt giữa HBM và DRAM có thể được hiểu qua vị trí và chức năng. HBM nằm bên cạnh GPU hoặc bộ tăng tốc AI và ưu tiên băng thông cực cao cùng độ trễ thấp. DRAM nằm ở phía CPU và hệ thống máy chủ, ưu tiên dung lượng bộ nhớ hệ thống lớn hơn, khả năng lập lịch tác vụ linh hoạt hơn và chi phí đơn vị thấp hơn. Tài liệu Micron COMPUTEX 2026 đề cập rằng HBM hỗ trợ thực thi mô hình tốc độ cao và bộ đệm KV nóng, trong khi LPDDR và DDR hỗ trợ bộ nhớ hệ thống, điều phối và mở rộng ngữ cảnh dài.

Suy luận AI làm tăng nhu cầu DRAM vì suy luận không đơn giản chỉ là "chạy mô hình một lần." Khi mức độ đồng thời của người dùng tăng lên, cửa sổ ngữ cảnh dài hơn và quy trình làm việc của agent gia tăng, hệ thống phải quản lý nhiều yêu cầu hơn, bộ nhớ đệm, I/O mạng, tiền xử lý đầu vào và nhật ký đầu ra. KV cache thường được mô tả là bộ nhớ ngắn hạn của một mô hình AI. Chuỗi đầu vào càng dài, áp lực về bộ nhớ đệm và quản lý dữ liệu càng lớn. Một phần bộ nhớ đệm nóng (hot cache) vẫn nằm trong HBM, trong khi một phần khác có thể tràn sang DRAM, SSD hoặc các tầng thấp hơn. Đây là một hướng đi phổ biến trong kiến trúc hệ thống suy luận.

DDR5 vẫn là nền tảng quan trọng cho bộ nhớ hệ thống máy chủ. LPDDR có thể đóng vai trò trong các thiết bị AI tiết kiệm điện năng và các định dạng module mới. CXL mang đến những khả năng trong tương lai cho việc mở rộng bộ nhớ và gộp chung bộ nhớ (memory pooling). Ví dụ, bộ chuyển mạch CXL của Marvell nêu bật việc gộp chung bộ nhớ ở cấp rack để mở rộng bộ nhớ khả dụng cho CPU, GPU, XPU và các bộ tăng tốc khác. Điều này cho thấy nút thắt cổ chai về bộ nhớ của AI đang mở rộng từ các chip riêng lẻ lên đến cấp rack và cụm máy.

Tóm tắt: DRAM là bộ nhớ hệ thống và lớp bộ đệm trong các trung tâm dữ liệu AI. Nó hỗ trợ lập lịch phía CPU, tiền xử lý dữ liệu, quản lý yêu cầu và một phần tràn bộ nhớ cache. Nó không gần GPU như HBM, nhưng rất quan trọng cho khả năng đồng thời suy luận, ngữ cảnh dài, quản lý I/O và vận hành máy chủ ổn định. Để đánh giá nhu cầu DRAM, bạn cần xem xét các máy chủ AI, máy chủ truyền thống, PC, điện thoại thông minh và xu hướng mở rộng bộ nhớ trung tâm dữ liệu—chứ không chỉ động lực của HBM.

SSD Làm Gì: Dữ Liệu Nóng, Tệp Mô Hình và Lưu Trữ Bền Vững Tốc Độ Cao

SSD đảm nhiệm việc lưu trữ dữ liệu bền vững tốc độ cao trong các trung tâm dữ liệu AI. Nó chậm hơn HBM và DRAM, nhưng có thể giữ lại dữ liệu sau khi mất điện. Nó nhanh hơn HDD, nhưng chi phí trên mỗi đơn vị dung lượng lại cao hơn. Do đó, SSD phù hợp nhất cho dữ liệu được truy cập thường xuyên, nhạy cảm về hiệu năng và cần được đọc hoặc ghi nhanh chóng, chẳng hạn như tệp mô hình, mẫu huấn luyện, checkpoint, dữ liệu nóng, nhật ký và một phần KV cache bền vững.

Solidigm inference context memory storage mô tả việc lưu trữ ngữ cảnh trong suy luận AI như một bài toán lưu trữ flash mới. Ý tưởng cốt lõi là khi ngữ cảnh và bộ nhớ đệm vượt quá giới hạn của HBM và DRAM, các SSD có mật độ cao đặt gần các cụm GPU trở thành một tầng quan trọng để mở rộng năng lực suy luận. NVIDIA BlueField-4 CMX cũng đặt GPU HBM, DRAM hệ thống và bộ lưu trữ cục bộ hoặc gắn với tủ máy vào cùng một hệ phân cấp ngữ cảnh suy luận. Điều này cho thấy SSD không chỉ đơn thuần là sự thay thế cho ổ cứng truyền thống. Nó là một phần của kiến trúc suy luận AI.

Sự khác biệt giữa SSD dành cho doanh nghiệp và SSD dành cho người tiêu dùng cũng rất quan trọng. Các trung tâm dữ liệu AI quan tâm nhiều hơn đến khả năng ghi liên tục, bảo vệ mất điện, độ trễ đuôi thấp, độ bền, khả năng tản nhiệt và các dạng thức more hơn là chỉ tốc độ đọc quảng cáo. U.2, E1.S, E3.S, PCIe Gen5/Gen6, QLC và TLC đều ảnh hưởng đến mật độ rack, mức tiêu thụ năng lượng và chi phí trên mỗi terabyte. SSD dung lượng cao có thể cải thiện dung lượng mỗi rack và mật độ hiệu năng, nhưng đối với dữ liệu lưu trữ dài hạn và truy cập tần suất thấp, chi phí của chúng thường vẫn cao hơn HDD.

SSD không thể thay thế HMB vì độ trễ và băng thông của nó thấp hơn nhiều so với bộ nhớ có băng thông cao đặt cạnh GPU. Nó cũng không thể thay thế DRAM vì không phù hợp làm bộ nhớ hệ thống đa dụng. SSD có thể thay thế một số khối lượng công việc HDD tần suất cao, đặc biệt là trong tải mô hình, truy cập dữ liệu nóng, checkpointing và mở rộng bộ nhớ đệm. Từ góc độ đầu tư, nhu cầu SSD nên được đánh giá thông qua việc mua sắm SSD doanh nghiệp, giá NAND, mức độ áp dụng QLC, đơn hàng của khách hàng trung tâm dữ liệu, tồn kho NAND và biên lợi nhuận gộp—chứ không chỉ dựa vào lượng xuất xưởng máy chủ AI.

Tóm tắt: SSD là lớp lưu trữ bền vững tốc độ cao trong trung tâm dữ liệu AI. Nó chủ yếu xử lý dữ liệu nóng, tải mô hình, đọc dữ liệu huấn luyện, checkpoint và ghi nhật ký. Nó kết nối lớp bộ nhớ với lớp lưu trữ dài hạn. Nó không thể thay thế HBM hay DRAM, cũng không thể thay thế hoàn toàn HDD. Giá trị cốt lõi của SSD là cân bằng giữa tốc độ, dung lượng và tính bền vững, đặc biệt dưới áp lực về context và dữ liệu nóng do sự tăng trưởng của suy luận (inference) tạo ra.

HDD Làm Gì: Dữ Liệu Khối Lượng Lớn, Lưu Trữ, Sao Lưu và Vòng Lặp Dữ Liệu AI

HDD đảm nhận lớp dữ liệu dung lượng lớn, chi phí thấp và lưu trữ dài hạn trong các trung tâm dữ liệu AI. Nó không phù hợp để thay thế HBM, DRAM hay SSD hiệu năng cao, nhưng vẫn đóng vai trò quan trọng đối với dữ liệu huấn luyện thô, nhật ký lịch sử, video, sao lưu, lưu trữ, lưu trữ đối tượng và dữ liệu lạnh. AI càng sản xuất nhiều dữ liệu thì càng cần một nền tảng dung lượng chi phí thấp và có khả năng mở rộng theo chiều ngang.

HDD chưa bị loại bỏ trong kỷ nguyên AI vì một lý do đơn giản: không phải tất cả dữ liệu đều xứng đáng được lưu trữ trên SSD. Việc huấn luyện mô hình đòi hỏi khối lượng lớn dữ liệu thô. Các dịch vụ suy luận liên tục tạo ra nhật ký, dữ liệu tương tác người dùng, dữ liệu giám sát và dữ liệu phản hồi. AI đa phương thức cũng tạo ra nhiều tệp hình ảnh, âm thanh và video hơn. Một số tập dữ liệu trong số này yêu cầu truy cập nhanh; số khác chỉ cần lưu trữ dài hạn. Đối với loại thứ hai, lợi thế kinh tế về dung lượng của HDD vẫn còn quan trọng. Seagate mass-capacity storage nhấn mạnh rằng việc mở rộng quy mô AI đòi hỏi ổ cứng dung lượng cao để hỗ trợ lưu trữ dữ liệu quy mô lớn.

Công nghệ HDD tiếp tục được cải tiến. HAMR, ePMR, SMR và UltraSMR nhằm mục đích tăng dung lượng mỗi ổ đĩa, giảm chi phí trên mỗi terabyte và cải thiện hiệu suất năng lượng cũng như không gian của trung tâm dữ liệu. Đổi mới lưu trữ thời đại AI của Western Digital nêu bật UltraSMR, ePMR, HAMR và các lớp trừu tượng hóa phần mềm cho khối lượng công việc ở quy mô AI. Ổ cứng 32TB của Seagate cũng cho thấy các ổ HDD dung lượng cao tiếp tục phát triển cho các trường hợp sử dụng như video AI, NAS và trung tâm dữ liệu.

Logic đầu tư cho HDD khác với HBM. HBM liên quan đến băng thông, đóng gói và chứng nhận khách hàng. HDD liên quan đến dung lượng mỗi ổ đĩa, hoạt động mua hàng của khách hàng đám mây, chi phí trên mỗi terabyte, kỷ luật về công suất và biên lợi nhuận gộp. Các trung tâm dữ liệu AI đồng thời theo đuổi suy luận nhanh hơn và tạo ra nhiều dữ liệu hơn, tạo thành một vòng lặp giữa tính toán, tạo dữ liệu, lưu trữ và huấn luyện lại. Vòng lặp này càng lớn, dữ liệu lạnh và lưu trữ nearline càng khó biến mất.

Tóm tắt: HDD là nền tảng dung lượng của các trung tâm dữ liệu AI. Nó đảm nhận việc lưu trữ dài hạn, lưu trữ lưu vực (archiving), sao lưu, dữ liệu lạnh và lưu trữ đối tượng (object storage). Nó không hướng đến độ trễ thấp nhất hay xử lý tính toán băng thông cao, nhưng vẫn có ưu thế về chi phí trên mỗi terabyte và khả năng mở rộng dung lượng quy mô lớn. SSD và HDD không phải là chất thay thế đơn giản cho nhau. SSD đảm nhận dữ liệu nóng và truy cập tốc độ cao, trong khi HDD đảm nhận dữ liệu dài hạn và tính kinh tế về dung lượng.

Sử dụng Kiến trúc Lưu trữ để Phân tích Logic Đầu tư: Cách Đánh giá Thứ tự Lợi ích của HBM, DRAM, SSD và HDD

Xét từ góc độ đầu tư, việc phân khúc nào hưởng lợi nhiều nhất—HBM, DRAM, SSD hay HDD—phụ thuộc vào chỗ xuất hiện điểm nghẽn nhu cầu AI. Nếu điểm nghẽn nằm ở việc truyền dữ liệu của GPU, HBM là bên hưởng lợi trực tiếp nhất. Nếu điểm nghẽn nằm ở khả năng đồng thời của suy luận (inference) và lập lịch hệ thống, DRAM trở nên quan trọng hơn. Nếu điểm nghẽn nằm ở việc tải mô hình và dữ liệu nóng, SSD có liên quan hơn. Nếu điểm nghẽn nằm ở việc lưu trữ dữ liệu dài hạn và chi phí, HDD trở nên quan trọng hơn.

Đào tạo AI và suy luận AI (inference) mang lại lợi ích cho các phần khác nhau của hệ thống. Việc đào tạo phụ thuộc nhiều hơn vào GPU, HBM, việc đọc dữ liệu đào tạo và lưu trữ checkpoint. Việc suy luận phụ thuộc nhiều hơn vào tính đồng thời, bộ nhớ đệm ngữ cảnh, truy cập dữ liệu nóng và lưu giữ nhật ký. AI đa phương thức làm tăng nhu cầu lưu trữ cho hình ảnh, video và âm thanh. Quy trình làm việc của agent và cơ sở kiến thức doanh nghiệp làm tăng nhu cầu lưu trữ dữ liệu vector, hồ sơ tương tác và ngữ cảnh dài hạn. Theo thời gian, khối lượng công việc suy luận được chuẩn hóa có thể khiến nhu cầu về SSD và HDD ổn định hơn, trong khi HBM gắn liền hơn với chu kỳ của từng nền tảng GPU riêng lẻ và quá trình chứng nhận của khách hàng.

Sai lầm phổ biến nhất của nhà đầu tư là gộp tất cả “lưu trữ AI” vào một logic chung. Các công ty chip bộ nhớ, nhà cung cấp SSD doanh nghiệp, công ty HDD và nhà cung cấp hệ thống lưu trữ doanh nghiệp có đòn bẩy lợi nhuận và logic định giá khác nhau. Bạn cần xem xét đồng thời vị thế sản phẩm, chu kỳ định giá, biến động hàng tồn kho, mở rộng công suất, mức độ tập trung khách hàng và chi phí giao dịch.

Nếu bạn theo dõi các cái tên HBM, DRAM, SSD và HDD trong chuỗi lưu trữ của trung tâm dữ liệu AI, bạn cần đánh giá không chỉ xu hướng ngành mà còn cả chi phí giao dịch thực tế. Chi phí giao dịch cổ phiếu Mỹ thường bao gồm nhiều hơn là hoa hồng. Chúng còn có thể bao gồm phí nền tảng, phí đại lý bên ngoài, phí hoạt động giao dịch, chênh lệch giá mua-bán và chi phí quy đổi ngoại tệ. Bạn có thể sử dụng dữ liệu thị trường cổ phiếu Mỹ để so sánh Micron, Western Digital, Seagate, các cổ phiếu ADR của Samsung hoặc các ETF liên quan, sau đó kiểm tra phí giao dịch cổ phiếu Mỹ của Biya để xem hoa hồng, phí nền tảng, phí đại lý bên ngoài và chi phí hiển thị theo lệnh. Cổ phiếu Mỹ của BiyaPhí môi giới giao dịch chứng khoán là $0, trong khi phí nền tảng, phí bên thứ ba và các chi phí khác tuân theo bảng công bố phí và trang đặt lệnh.

Tóm tắt: Phân tích đầu tư lưu trữ AI không nên chỉ tập trung vào HBM hay vào "sự tăng trưởng dữ liệu" nói chung. HBM tương ứng với băng thông. DRAM tương ứng với bộ nhớ hệ thống và hỗ trợ suy luận. SSD tương ứng với dữ liệu nóng và khả năng lưu trữ bền vững tốc độ cao. HDD tương ứng với kinh tế học dung lượng và lưu trữ dài hạn. Cách tiếp cận hữu ích hơn là trước tiên xác định điểm nghẽn của trung tâm dữ liệu, sau đó ánh xạ nó tới sản phẩm, công ty, chu kỳ giá, định giá và chi phí giao dịch thực tế.

Khi phân tích kiến trúc lưu trữ của trung tâm dữ liệu AI, bạn có thể đặt HBM, DRAM, SSD và HDD trên cùng một bản đồ phân lớp thay vì chỉ theo đuổi một điểm nóng duy nhất. Lớp càng gần GPU thì càng phụ thuộc vào băng thông và độ trễ. Lớp càng gần hồ dữ liệu thì càng phụ thuộc vào dung lượng và chi phí. Nếu bạn muốn so sánh các công ty chip bộ nhớ, SSD doanh nghiệp, HDD và hạ tầng trung tâm dữ liệu niêm yết tại Hoa Kỳ và Hồng Kông, bạn có thể sử dụng Biya để xem các tài sản liên quan và sử dụng dữ liệu thị trường chứng khoán Hồng Kông để theo dõi các cổ phiếu bán dẫn và phần cứng châu Á. Bạn cũng có thể tải xuống ứng dụng Biya để quản lý danh sách theo dõi và hồ sơ giao dịch.Tính khả dụng của dịch vụ phụ thuộc vào vị trí của người dùng, kết quả xác minh danh tính, quy tắc của nền tảng, cùng với các luật và quy định hiện hành. Thông tin thị trường công khai, quy tắc giao dịch và cơ cấu phí chỉ mang tính chất tham khảo cho mục đích phân tích và không cấu thành lời khuyên đầu tư.

Câu hỏi thường gặp

Tại sao trung tâm dữ liệu AI cần cả HBM và DRAM?

Trung tâm dữ liệu AI cần cả HBM và DRAM vì chúng nằm ở những vị trí khác nhau và thực hiện các nhiệm vụ khác nhau. HBM chủ yếu hỗ trợ tính toán GPU băng thông cao, trong khi DRAM chủ yếu hỗ trợ bộ nhớ hệ thống phía CPU, lập lịch, tiền xử lý và tràn bộ nhớ đệm. HBM nhanh hơn nhưng đắt hơn, trong khi DRAM phù hợp hơn cho dung lượng cấp hệ thống và điều phối linh hoạt.

Sự tăng trưởng của suy luận AI có làm tăng nhu cầu về SSD không?

Có. Sự tăng trưởng của suy luận AI có thể làm tăng nhu cầu về tải mô hình, truy cập dữ liệu nóng, ghi nhật ký, duy trì ngữ cảnh người dùng và một số lưu cache bền vững. SSD cân bằng giữa tốc độ, dung lượng và lưu trữ không bay hơi, khiến chúng phù hợp cho lớp dữ liệu nóng. Nhu cầu thực tế vẫn phụ thuộc vào kiến trúc mô hình, mức độ đồng thời và chiến lược cache.

HDD Liệu Còn Có Giá Trị Đầu Tư Trong Trung Tâm Dữ Liệu AI Không?

HDD vẫn có thể có giá trị đầu tư trong trung tâm dữ liệu AI trong điều kiện phù hợp. Nó không phù hợp cho tính toán băng thông cao hay truy cập dữ liệu nóng độ trễ thấp, nhưng nó có ưu thế về chi phí trên mỗi terabyte trong dữ liệu thô, lưu trữ, sao lưu, dữ liệu lạnh và lưu trữ đối tượng. Mua sắm của khách hàng đám mây, dung lượng trên mỗi ổ đĩa và biên lợi nhuận gộp là những yếu tố quan trọng cần theo dõi.

Liệu Nhu Cầu HBM Tăng Trưởng Có Hỗ Trợ Cho Tất Cả Các Công Bty Bán Bộ Nhớ?

Không hẳn vậy. Nhu cầu HBM chủ yếu có lợi cho các công ty có khả năng sản xuất hàng loạt HBM tiên tiến, quan hệ đối tác đóng gói, kiểm soát năng suất và năng lực thẩm định khách hàng. Các công ty NAND, HDD hay bộ nhớ ngách thông thường có con đường hưởng lợi khác nhau và không nên bị gộp chung theo cùng một logic. Nhà đầu tư nên xem xét cơ cấu sản phẩm và mức độ doanh thu tiếp xúc của từng công ty.

Nhà Đầu Tư Thông Thường Có Thể Theo Dõi Chu Kỳ Bộ Nhớ AI Như Thế Nào?

Nhà đầu tư thông thường có thể theo dõi tiến độ chứng nhận HBM, giá DRAM và NAND, hoạt động mua sắm SSD doanh nghiệp, công suất xuất xưởng HDD nearline, CAPEX của các nhà cung cấp dịch vụ đám mây, và biên lợi nhuận gộp của các công ty bộ nhớ. Không một chỉ số đơn lẻ nào là đủ để đánh giá toàn bộ chu kỳ. Tốt hơn là kết hợp các tín hiệu về giá, hàng tồn kho, công suất và định giá.

Kiến trúc lưu trữ trung tâm dữ liệu AI có ảnh hưởng đến việc lựa chọn ETF không?

Có. Các ETF nghiêng về HBM và DRAM nhạy cảm hơn với chu kỳ giá chip bộ nhớ, trong khi các quỹ bao gồm công ty SSD, HDD hoặc hệ thống lưu trữ doanh nghiệp có thể phản ánh logic về công suất và hạ tầng trung tâm dữ liệu mạnh mẽ hơn. Trước khi lựa chọn, nhà đầu tư nên xem xét danh mục nắm giữ, tỷ lệ phí, mức độ tiếp cận địa lý, mức độ tập trung và các công bố rủi ro.