Tại Sao Tăng Trưởng Tính Toán AI Lại Thúc Đẩy Nhu Cầu Lưu Trữ? Sự Khác Biệt Giữa Huấn Luyện, Suy Luận và Lưu Trữ Dữ Liệu

Sự tăng trưởng điện toán AI không chỉ đồng nghĩa với nhiều GPU, bộ tăng tốc AI và máy chủ hơn. Đồng thời, nó còn mở rộng nhu cầu về lưu trữ. Giai đoạn huấn luyện đòi hỏi việc đọc liên tục các tập dữ liệu khổng lồ, ghi checkpoint và lưu giữ các phiên bản mô hình. Giai đoạn suy luận (inference) đòi hỏi tải trọng số mô hình, duy trì KV cache, truy cập cơ sở dữ liệu vector và lưu trữ ngữ cảnh người dùng. Việc lưu giữ dữ liệu liên quan đến tập dữ liệu thô, dữ liệu đã làm sạch, nhật ký, nội dung được tạo ra, hồ sơ kiểm toán và bản sao lưu. Khi đánh giá đầu tư hạ tầng AI, bạn không chỉ nên nhìn vào số lượng GPU được xuất xưởng. Bạn cũng cần đánh giá xem HBM, DRAM, SSD doanh nghiệp, HDD nearline, lưu trữ đối tượng (object storage) và các nền tảng dữ liệu có thể hỗ trợ khối lượng công việc thực tế hay không.

Những Điểm Chính

• Tăng trưởng sức mạnh tính toán AI mở rộng nhu cầu lưu trữ trên toàn bộ quy trình huấn luyện, suy luận và lưu giữ dữ liệu.
• Huấn luyện nhấn mạnh vào việc đọc thông lượng cao, ghi điểm kiểm tra (checkpoint) và hiệu suất sử dụng GPU.
• Suy luận nhấn mạnh vào trọng số mô hình, KV cache, truy cập độ trễ thấp và đồng thời cao.
• Lưu giữ dữ liệu tập trung vào dung lượng, chi phí, lưu trữ phân tầng, lưu giữ nhật ký và quản trị dữ liệu.
• HBM, DRAM, SSD và HDD được hưởng lợi qua các cơ chế khác nhau và không nên gộp chung lại với nhau.
• Để đánh giá nhu cầu lưu trữ cho AI, hãy tập trung vào khối lượng công việc thay vì chạy theo giới khái niệm.

Vì Sao Tăng Trường Tính Toán AI Không Chỉ Thúc Đẩy GPU, Mà Còn Cả Lưu Trữ?

Sự tăng trưởng sức mạnh tính toán AI thúc đẩy nhu cầu về lưu trữ, vì một hệ thống AI không chỉ riêng về tính toán. Nó còn cần liên tục di chuyển, lưu trữ tạm thời, ghi và bảo quản dữ liệu. Càng nhiều GPU, đường ống dữ liệu càng phải tránh làm chậm quá trình huấn luyện. Mô hình càng lớn, càng phải xử lý nhiều trọng số, ngữ cảnh và trạng thái trung gian. Các ứng dụng AI càng được áp dụng rộng rãi, càng phải lưu trữ nhiều nhật ký suy luận, tương tác người dùng và nội dung được tạo ra. Do đó, hạ tầng AI không chỉ đơn thuần là “mở rộng GPU,” mà là sự mở rộng đồng bộ của tính toán, bộ nhớ, mạng và lưu trữ.

Một hệ thống AI hoàn chỉnh thường bao gồm thu thập dữ liệu, làm sạch dữ liệu, huấn luyện, tinh chỉnh, đánh giá, triển khai, suy luận, ghi log và lưu trữ dữ liệu. Trong quá trình huấn luyện, dữ liệu phải được di chuyển liên tục từ data lake, lưu trữ đối tượng, SSD hoặc hệ thống tệp song song vào GPU. Trong quá trình suy luận, trọng số mô hình phải được đọc nhanh chóng, ngữ cảnh phải được xử lý và hệ thống truy xuất phải được truy cập. Sau khi một ứng dụng nghiệp vụ đi vào hoạt động, các yêu cầu của người dùng, đầu ra của mô hình, dữ liệu phản hồi và hồ sơ kiểm toán cũng phải được lưu trữ. Khi thảo luận về việc mở rộng lưu trữ cho huấn luyện và suy luận AI, NVIDIA nhấn mạnh rằng dung lượng, hiệu năng, phần cứng mạng và các giao thức truyền dữ liệu cần được lập kế hoạch cùng nhau, thay vì chỉ bổ sung sau khi GPU đã được triển khai.

Mối quan hệ giữa tính toán, bộ nhớ và lưu trữ có thể được hiểu qua ba lớp:

GPU nhanh, nhưng điều đó không có nghĩa là toàn bộ hệ thống sẽ nhanh. Nếu dữ liệu huấn luyện không thể kịp thời đến GPU, GPU sẽ phải chờ. Nếu việc ghi checkpoint quá chậm, quá trình huấn luyện bị gián đoạn. Nếu ngữ cảnh suy luận (inference context) không thể lưu trữ ở tầng lưu trữ phù hợp, thời gian chờ của người dùng sẽ tăng lên. Cụm AI càng lớn, nút thắt cổ chai ở một thành phần càng dễ bị khuếch đại. Trước đây, nhiều công ty coi lưu trữ là một trung tâm chi phí. Tuy nhiên, với các khối lượng công việc AI, lưu trữ đã trở thành hạ tầng ảnh hưởng đến hiệu suất sử dụng GPU, thông lượng suy luận, quản trị dữ liệu và chi phí dài hạn.

Tăng trưởng sức mạnh tính toán AI thúc đẩy nhu cầu lưu trữ vì các khối công việc AI tạo ra yêu cầu nghiêm ngặt cả đối với "việc dữ liệu đi vào hệ thống tính toán" lẫn "việc kết quả tính toán được lưu giữ theo thời gian." Huấn luyện đòi hỏi đọc thông lượng cao và ghi liên tục. Suy luận đòi hỏi truy cập độ trễ thấp và quản lý ngữ cảnh. Lưu trữ dữ liệu đòi hỏi dung lượng, kiểm soát chi phí và năng lực quản trị. Mở rộng GPU trong khi bỏ qua lưu trữ có thể khiến phần cứng tính toán đắt tiền phải chờ dữ liệu, hoặc làm chi phí suy luận tăng nhanh dưới mức đồng thời cao. Để đánh giá hạ tầng AI có khỏe mạnh hay không, bạn không chỉ cần nhìn vào số lượng GPU, mà còn phải xem xét liệu HBM, DRAM, SSD, HDD, mạng và nền tảng dữ liệu có thể theo kịp tốc độ tăng trưởng của tính toán hay không.

Tại Sao Huấn Luyện AI Lại Đòi Hỏi Nhiều Dung Lượng Lưu Trữ Đến Thế?

Huấn luyện AI đòi hỏi một lượng lớn bộ nhớ lưu trữ vì quá trình huấn luyện mô hình không chỉ đọc dữ liệu một lần. Nó liên tục đọc, xáo trộn, chia nhỏ theo lô, tiền xử lý và ghi kết quả. Tập dữ liệu càng lớn, số epoch huấn luyện càng nhiều và các điểm lưu trạng thái (checkpoint) càng thường xuyên, thì thông lượng lưu trữ, khả năng đọc ghi đồng thời và băng thông mạng càng trở nên quan trọng. Câu hỏi cốt lõi trong huấn luyện không phải là "dữ liệu có thể được lưu trữ hay không", mà là "hệ thống lưu trữ có thể liên tục, ổn định và truyền dữ liệu đến GPU với thông lượng cao hay không".

Dữ liệu huấn luyện thường tồn tại dưới nhiều hình thức: văn bản thô, hình ảnh, video, mã nguồn, giọng nói, dữ liệu cảm biến và tài liệu doanh nghiệp. Sau khi làm sạch, nó có thể trở thành dữ liệu đã làm sạch, dữ liệu đã token hóa, dữ liệu đặc trưng và các batch huấn luyện. Khi giải thích cách huấn luyện mô hình AI tương tác với bộ lưu trữ, Dell chia quá trình này thành ba giai đoạn chính: tải dữ liệu huấn luyện, tiền xử lý dữ liệu và huấn luyện mô hình trên GPU. Mỗi giai đoạn đều truy cập vào bộ lưu trữ, nhưng mẫu truy cập là khác nhau.

Một nhu cầu lưu trữ khác ở giai đoạn huấn luyện thường bị đánh giá thấp là checkpointing. Việc huấn luyện các mô hình lớn mất nhiều thời gian và chi phí đắt đỏ, vì vậy kết quả không thể chỉ được lưu sau khi huấn luyện hoàn tất. Hệ thống thường cần định kỳ ghi trọng số mô hình, trạng thái trình tối ưu hóa và các điểm khôi phục để phục hồi lỗi, so sánh thí nghiệm, quản lý phiên bản mô hình và huấn luyện tiếp tục. Tài liệu về lưu trữ AI của SNIA lưu ý rằng quá trình huấn luyện sử dụng các lô dữ liệu để cập nhật trọng số mô hình và định kỳ ghi dữ liệu checkpoint để khôi phục. Checkpoint càng lớn và càng thường xuyên thì áp lực lên SSD, hệ thống tệp song song và mạng càng lớn.

Nhu cầu lưu trữ trong quá trình huấn luyện có thể được chia thành bốn loại:

Để giảm bớt điểm nghẽn trong việc di chuyển dữ liệu, việc đào tạo AI cũng đang thúc đẩy nâng cấp kiến trúc lưu trữ. GPUDirect Storage của NVIDIA có thể tạo ra một đường dẫn dữ liệu trực tiếp giữa bộ nhớ cục bộ hoặc từ xa và bộ nhớ GPU, giảm thiểu tác động của việc trung gian CPU đối với việc di chuyển dữ liệu. Điều này phản ánh một xu hướng rộng hơn: khi GPU ngày càng nhanh hơn, đường dẫn dữ liệu truyền thống “lưu trữ—CPU—bộ nhớ—GPU” có thể trở thành điểm nghẽn, và các hệ thống đào tạo cần dữ liệu được đưa vào bộ tăng tốc một cách trực tiếp và hiệu quả hơn.

Việc huấn luyện AI thúc đẩy nhu cầu lưu trữ không chỉ vì các tập dữ liệu huấn luyện ngày càng lớn, mà còn vì quá trình huấn luyện liên tục đọc dữ liệu, ghi checkpoint, lưu trọng số mô hình và giữ lại các phiên bản thử nghiệm. Cụm tính toán càng lớn thì việc GPU bị chậm lại do tải dữ liệu càng không thể chấp nhận được. Thời gian huấn luyện càng dài thì việc quản lý checkpoint và phiên bản càng trở nên quan trọng. SSD doanh nghiệp, hệ thống tệp song song, mạng tốc độ cao, lưu trữ đối tượng và hồ dữ liệu (data lake) đều trở thành một phần của quy trình huấn luyện. Câu hỏi quan trọng nhất ở giai đoạn huấn luyện không phải là “có đủ dung lượng hay không”, mà là “hệ thống lưu trữ có thể giúp GPU ít phải chờ đợi hơn, giảm thiểu gián đoạn huấn luyện và làm cho các thí nghiệm có thể tái lập được hay không”.

Tại Sao Suy Luận AI Cũng Thúc Đẩy Nhu Cầu Về Lưu Trữ và Bộ Nhớ?

Suy luận AI cũng thúc đẩy nhu cầu về lưu trữ và bộ nhớ vì suy luận không phải là một tác vụ nhẹ nhàng. Mỗi yêu cầu từ người dùng đòi hỏi phải tải trọng số mô hình, xử lý ngữ cảnh đầu vào, tạo ra đầu ra và duy trì các trạng thái trung gian. Càng nhiều người dùng, ngữ cảnh càng dài, mô hình càng lớn và độ đồng thời càng cao thì áp lực lên HBM, DRAM, SSD, cơ sở dữ liệu vector và hệ thống caching càng lớn. Huấn luyện là giai đoạn xây dựng mô hình; suy luận là khối lượng công việc liên tục sau khi các ứng dụng AI vận hành ở quy mô lớn.

IBM giải thích suy luận AI là quá trình sử dụng một mô hình AI đã được huấn luyện để xử lý dữ liệu và yêu cầu mới. Có vẻ như đó là một quy trình đơn giản kiểu "nhập câu hỏi, nhận câu trả lời", nhưng bên trong hệ thống phải trải qua các bước nhập prompt, prefill, decode, tạo token và xuất phản hồi. Trọng số của mô hình phải được tải, ngữ cảnh đầu vào phải được xử lý và các token đầu ra phải được tạo từng bước một. Khi số lượng người dùng tăng lên, suy luận chuyển từ một bài toán tính toán đơn lẻ thành một bài toán dịch vụ liên tục.

Một trong những biến số lưu trữ quan trọng nhất trong suy luận (inference) là KV cache. KV cache lưu trữ các trạng thái trung gian key/value được tạo ra khi mô hình Transformer xử lý ngữ cảnh. Nó giúp giảm phép tính lặp lại, nhưng cũng tiêu tốn một lượng bộ nhớ lớn. Trong một thảo luận về suy luận LLM quy mô lớn, NVIDIA lưu ý rằng việc tải Llama 3 70B và Llama 4 Scout 109B ở định dạng FP16 cần khoảng 140GB và 218GB bộ nhớ, trong khi một người dùng duy nhất với ngữ cảnh 128k token có thể tiêu tốn khoảng 40GB KV cache cho Llama 3 70B. Yêu cầu bộ nhớ này tăng tuyến tính theo số lượng người dùng.

KV cache biến suy luận từ một "bài toán tính toán" thành một "bài toán phân tầng bộ nhớ và lưu trữ." Lý tưởng nhất là phần cache nóng nhất được giữ trong HBM. Khi HBM không đủ, một phần cache có thể được đặt trong CPU DRAM, bộ nhớ CXL, SSD NVMe hoặc lưu trữ từ xa. NVIDIA Dynamo lưu ý rằng KV Cache offloading có thể hỗ trợ ngữ cảnh dài hơn, giảm mức sử dụng bộ nhớ GPU, cải thiện khả năng đồng thời và giảm tính toán lặp lại. Loại công nghệ này cho thấy điểm nghẽn phía suy luận không chỉ nằm ở khả năng tính toán của GPU, mà còn ở dung lượng cache, độ trễ truy cập và cấu trúc chi phí.

Suy luận (inference) được khuếch đại thêm nữa bởi RAG và các AI agent. RAG cần truy cập vào tài liệu doanh nghiệp, cơ sở dữ liệu vector, chỉ mục tìm kiếm và các kho tri thức bên ngoài. Các AI agent cũng ghi lại kế hoạch, kết quả gọi công cụ, trạng thái tác vụ và ngữ cảnh lịch sử. Dịch vụ suy luận càng gần với quy trình công việc kinh doanh thực tế, thì dữ liệu mà nó truy cập càng trở nên phân tán, và hệ thống lưu trữ càng phải đồng thời hỗ trợ độ trễ thấp, đồng thời cao, kiểm soát quyền hạn và cập nhật liên tục.

Suy luận không có nghĩa là nhu cầu lưu trữ giảm sau khi quá trình huấn luyện kết thúc. Ngược lại, khi các ứng dụng AI bước vào giai đoạn phục vụ người dùng quy mô lớn, trọng số mô hình, KV cache, ngữ cảnh dài, hội thoại đa lượt, truy xuất RAG và trạng thái agent liên tục tiêu thụ tài nguyên HBM, DRAM, SSD và nền tảng dữ liệu. Huấn luyện nghiêng về thông lượng cao và ghi dữ liệu quy mô lớn, trong khi suy luận nghiêng về độ trễ thấp, đồng thời cao và quản lý ngữ cảnh. Khi các ứng dụng AI được áp dụng rộng rãi hơn, nhu cầu lưu trữ phía suy luận có khả năng tiếp tục tăng trưởng, đặc biệt khi ngữ cảnh dài, kho tri thức doanh nghiệp và quy trình làm việc đa agent ngày càng trở nên phổ biến.

Tại Sao Lưu Trữ Dữ Liệu Là Động Lực Thứ Ba Của Nhu Cầu Lưu Trữ AI?

Việc lưu giữ dữ liệu là một trong những phần bị đánh giá thấp nhất trong nhu cầu lưu trữ AI, bởi vì các hệ thống AI không chỉ tiêu thụ dữ liệu cũ; chúng liên tục tạo ra dữ liệu mới. Quá trình huấn luyện tạo ra các checkpoint, các phiên bản mô hình và kết quả đánh giá. Quá trình suy luận (inference) tạo ra các yêu cầu từ người dùng, đầu ra của mô hình, dữ liệu phản hồi và nhật ký. Việc triển khai trong doanh nghiệp cũng đòi hỏi kiểm toán, sao lưu, quản lý quyền hạn và lưu giữ dữ liệu để tuân thủ quy định. Càng nhiều sức mạnh tính toán và AI chạy càng thường xuyên, thì lượng dữ liệu cần được lưu giữ trong dài hạn càng lớn.

Vòng đời dữ liệu AI thường bao gồm dữ liệu thô, dữ liệu sạch, dữ liệu huấn luyện, trọng số mô hình, các điểm kiểm tra (checkpoint), nhật ký suy luận, nội dung được tạo ra, hồ sơ kiểm toán và bản sao lưu. Việc lưu giữ dữ liệu huấn luyện chủ yếu phục vụ cho việc huấn luyện mô hình, khả năng tái lập, quản lý phiên bản và huấn luyện lại. Việc lưu giữ dữ liệu suy luận chủ yếu phục vụ cho việc tối ưu trải nghiệm người dùng, đánh giá chất lượng, kiểm toán an ninh và phân tích kinh doanh. Cả hai loại dữ liệu đều cần được lưu trữ, nhưng tần suất truy cập, mật độ giá trị và yêu cầu tuân thủ của chúng khác nhau.

Khi giải thích về lưu trữ AI, IBM nhấn mạnh rằng lưu trữ AI phải cân bằng giữa dữ liệu quy mô lớn, hiệu suất cao, độ trễ thấp và quyền truy cập có kiểm soát. Điều này rất quan trọng vì dữ liệu AI không nên tất cả đều được đặt trên ổ SSD tốc độ cao, cũng không nên tất cả đều được đặt trên ổ HDD giá rẻ. Dữ liệu khác nhau nên được phân tầng dựa trên tần suất truy cập, yêu cầu độ trễ, chi phí và nhu cầu quản trị.

Doanh nghiệp lưu trữ dữ liệu AI không chỉ để huấn luyện thêm các mô hình sau này, mà còn để tái tạo kết quả, chẩn đoán sự cố, bảo vệ dữ liệu và đáp ứng các yêu cầu quản trị. Nội dung của Dell về khả năng phục hồi mạng cho khối lượng công việc AI lưu ý rằng các bộ dữ liệu huấn luyện và suy luận có thể được phân tán trên nhiều hệ thống lưu trữ và động thay đổi trong suốt vòng đời AI, khiến việc bảo vệ bộ dữ liệu AI trở nên quan trọng đối với tính toàn vẹn và tính khả dụng. Đối với doanh nghiệp, việc mất các phiên bản mô hình, nguồn dữ liệu mẫu huấn luyện hoặc nhật ký suy luận có thể ảnh hưởng đến việc chẩn đoán sự cố, kiểm toán tuân thủ và tính liên tục của hoạt động kinh doanh.

Việc lưu trữ dữ liệu cũng mang lại các ràng buộc về chi phí. Dữ liệu nóng đòi hỏi độ trễ thấp và hiệu năng cao, nhưng không phải tất cả dữ liệu đều xứng đáng chiếm dụng dung lượng SSD đắt đỏ trong thời gian dài. Nhật ký lịch sử, bản sao lưu, kho dữ liệu video và nội dung tần suất truy cập thấp phù hợp hơn với các tầng dung lượng có chi phí thấp hơn. Western Digital cho biết trong quý tài chính thứ ba của năm 2026 rằng gần như mọi thứ từ huấn luyện và suy luận đến AI tác tử và AI vật lý đều tạo ra dữ liệu phải được lưu trữ liên tục và hiệu quả về chi phí, khiến ổ cứng HDD trở thành nền tảng dung lượng quan trọng trong chuỗi lưu trữ dữ liệu AI.

Lưu trữ dữ liệu là động lực lớn thứ ba của nhu cầu lưu trữ AI, và đây là phần dễ bị che khuất nhất bởi "câu chuyện GPU." Huấn luyện và suy luận liên tục tạo ra dữ liệu. Các doanh nghiệp cũng phải giữ lại các phiên bản mô hình, checkpoint, nhật ký, nội dung được tạo ra, hồ sơ kiểm toán và bản sao lưu. Dữ liệu khác nhau có giá trị khác nhau, tần suất truy cập khác nhau và ràng buộc chi phí khác nhau, vì vậy lưu trữ AI đang chuyển hướng sang kiến trúc phân tầng: SSD hiệu năng cao xử lý dữ liệu nóng, lưu trữ đối tượng và SSD doanh nghiệp hỗ trợ dữ liệu ấm, còn HDD nearline và hệ thống lưu trữ lưu cung cấp khả năng lưu giữ dài hạn dung lượng lớn. Bảo mật và quản trị quyết định việc dữ liệu này có thể được tái sử dụng một cách đáng tin cậy hay không.

Phần Cứng Lưu Trữ và Phân Khúc Ngành Nào Sẽ Được Lợi Từ Sự Tăng Trưởng Của Sức Mạnh Tính Toán AI?

Sự tăng trưởng điện toán AI không chỉ thúc đẩy một loại phần cứng lưu trữ duy nhất. Nó thúc đẩy toàn bộ hệ thống phân cấp lưu trữ. HBM và DRAM giải quyết các vấn đề về băng thông và độ trễ gần GPU nhất. SSD doanh nghiệp hỗ trợ thông lượng huấn luyện, checkpoint, RAG và bộ nhớ đệm suy luận. HDD và lưu trữ đối tượng cung cấp dung lượng lớn, chi phí thấp và lưu trữ dài hạn. Các loại phần cứng lưu trữ khác nhau hưởng lợi từ các phần khác nhau của khối lượng công việc AI, và các công ty cũng như cổ phiếu liên quan không nên được coi là cùng một loại nhu cầu AI.

HBM và DRAM là những tầng lưu trữ có giá trị cao nhất, gần GPU nhất. Huấn luyện mô hình lớn đòi hỏi bộ nhớ có băng thông cao để hỗ trợ tính toán ma trận khổng lồ, và các dịch vụ suy luận (inference) cũng cần truy cập hiệu quả vào trọng số mô hình, các hoạt động (activation) và bộ nhớ đệm. Micron cho biết danh mục bộ nhớ và lưu trữ AI của họ bao phủ HBM, SSD, LPDDR, trung tâm dữ liệu và các kịch bản AI biên (edge AI), cho thấy nhu cầu lưu trữ do AI thúc đẩy không giới hạn ở một sản phẩm duy nhất. Tại COMPUTEX 2026, Micron cũng cho biết HBM4 36GB 12H có thể cải thiện thông lượng suy luận của LLM trong một số điều kiện nhất định, cho thấy mối liên hệ trực tiếp giữa bộ nhớ có băng thông cao và hiệu suất tạo token.

Các SSD doanh nghiệp nằm ở vị trí giữa GPU, đường dẫn dữ liệu và các dịch vụ suy luận (inference). Huấn luyện đòi hỏi tốc độ đọc dữ liệu nhanh và ghi checkpoint. Suy luận đòi hỏi khả năng truy cập vào cơ sở dữ liệu vector, dữ liệu RAG, tệp mô hình và phân tầng KV cache. Kỹ thuật dữ liệu phải xử lý các tập dữ liệu liên tục tăng trưởng. Các SSD NVMe, SSD PCIe Gen5/Gen6, SSD QLC doanh nghiệp, NVMe-oF và GPUDirect Storage đều đang phát triển xoay quanh mục tiêu nhanh hơn, ổn định hơn và gần GPU hơn. Mô tả của Micron về trung tâm dữ liệu AI cũng bao gồm cả huấn luyện AI và suy luận như là các lĩnh vực ứng dụng cho các giải pháp bộ nhớ và lưu trữ.

Ổ cứng HDD và lưu trữ đối tượng (object storage) giống như nền tảng dung lượng hơn. Dữ liệu huấn luyện AI, kho video, nhật ký suy luận (inference logs), bản sao lưu và các phiên bản lịch sử không phải lúc nào cũng cần quyền truy cập cấp milli giây, nhưng chúng cần được lưu trữ lâu dài theo cách chi phí thấp và dễ quản lý. Seagate công bố doanh thu 3,11 tỷ USD cho quý tài chính thứ ba năm 2026 và tiết lộ biên lợi nhuận gộp phi GAAP là 47,0%, phản ánh sự hỗ trợ từ nhu cầu ổ cứng nearline và trung tâm dữ liệu.

Sự tăng trưởng compute AI thúc đẩy toàn bộ hệ thống phân tầng lưu trữ, không chỉ một loại phần cứng đơn lẻ. HBM và DRAM giải quyết vấn đề băng thông gần GPU nhất. SSD doanh nghiệp hỗ trợ thông lượng huấn luyện, checkpoint, RAG và bộ nhớ đệm suy luận. Lưu trữ đối tượng và HDD giải quyết việc lưu giữ dữ liệu quy mô lớn. Khi phân tích chuỗi cung ứng lưu trữ AI, bạn cần ánh xạ "huấn luyện, suy luận và lưu giữ" với "bộ nhớ, SSD, HDD và nền tảng dữ liệu." Các công ty, sản phẩm và cổ phiếu khác nhau hưởng lợi từ các phần khác nhau của chuỗi, vì vậy không phải tất cả nhu cầu lưu trữ đều nên được xem là cùng một chủ đề AI.

Làm Thế Nào Để Xác Định Nhu Cầu Lưu Trữ AI Là Tăng Thực Chất Hay Chỉ Là Biến Động Tồn Kho Ngắn Hạn?

Để đánh giá xem nhu cầu lưu trữ AI có phải là tăng trưởng thực sự hay không, bạn không chỉ nên nhìn vào việc chủ đề AI có đang nóng hay lượng GPU xuất xưởng có cao hay không. Bạn cần xem xét liệu khối lượng công việc huấn luyện, suy luận và lưu trữ dữ liệu có đang tăng trưởng cùng nhau hay không. Nếu kích thước tập dữ liệu huấn luyện, số lượng token suy luận, số người dùng đồng thời, độ dài ngữ cảnh, số lần gọi RAG, thời gian lưu giữ nhật ký và chi tiêu vốn cho điện toán đám mây đều đang tăng lên, thì nhu cầu lưu trữ nhiều khả năng là thực sự. Nếu sự tăng trưởng chỉ đến từ việc bổ sung hàng cho kênh phân phối hoặc tranh mua hàng hóa ngắn hạn, biến động giá có thể đảo chiều nhanh hơn.

Trước tiên, hãy xem xét khối lượng công việc. Ở phía huấn luyện, cần theo dõi kích thước tập dữ liệu, mức độ Utilization GPU, tần suất lưu checkpoint và thông lượng đọc dữ liệu. Ở phía suy luận (inference), cần theo dõi số token mỗi giây, TTFT, KV cache, kích thước batch và mức độ đồng thời. Ở phía lưu trữ dữ liệu, cần theo dõi sự tăng trưởng dữ liệu, thời gian lưu giữ log, chiến lược sao lưu và nhu cầu quản trị dữ liệu. Các ghi chú tối ưu hóa suy luận ngữ cảnh dài của NVIDIA chỉ ra rằng khi KV cache tăng lên, tỷ lệ cache hit, độ trễ và mức sử dụng HBM đều bị ảnh hưởng, cho thấy khối lượng công việc suy luận thực tế thay đổi trực tiếp nhu cầu về bộ nhớ và lưu trữ.

Thứ hai, hãy xem việc mua sắm và định giá có xác nhận lẫn nhau hay không. Nhu cầu thực tế thường xuất hiện trong các đơn hàng SSD doanh nghiệp, lượng giao HDD nearline, giá HBM và DRAM, hàng tồn đơn của nhà cung cấp, hợp đồng dài hạn và chi phí vốn của cloud. Nếu chỉ có mức tăng giá trong một quý đơn lẻ nhưng hàng tồn kho cũng tăng nhanh, đó có thể là bổ sung hàng tồn. Nếu tăng trưởng khối lượng công việc, mua sắm dài hạn và nâng cấp sản phẩm cùng xuất hiện, độ tin cậy của nhu cầu thực tế sẽ cao hơn.

Thứ ba, hãy nhìn vào ràng buộc chi phí. Nhu cầu lưu trữ AI không phải là vô hạn. Doanh nghiệp phải lựa chọn giữa hiệu năng, chi phí, mức tiêu thụ điện năng, tuân thủ và khả năng quản lý. Nén KV cache, lưu trữ phân tầng, phân tách dữ liệu nóng/lạnh, lượng tử hóa mô hình, khử trùng lặp dữ liệu và lưu giữ có chọn lọc đều là những cách để kiểm soát chi phí. Thảo luận của NVIDIA Research về nén KV cache cũng chỉ ra rằng các phương pháp nén có thể giảm bớt áp lực bộ nhớ trong suy luận ngữ cảnh dài, nhưng việc triển khai thực tế vẫn phải đối mặt với những thách thức về hạ tầng sản xuất.

Nếu bạn theo dõi các cổ phiếu hoặc ETF liên quan đến AI và lưu trữ, chi phí giao dịch cũng cần được tính vào việc đánh giá lợi nhuận thực tế. Chi phí giao dịch cổ phiếu Mỹ không chỉ có thể bao gồm hoa hồng, mà còn có phí nền tảng, phí đại lý bên ngoài, phí hoạt động giao dịch, chênh lệch thực thi lệnh và các chi phí liên quan đến thanh toán bù trừ. Lấy phí giao dịch cổ phiếu Mỹ của Biya làm ví dụ, Biya không tính hoa hồng cho giao dịch cổ phiếu Mỹ, trong khi phí nền tảng, phí đại lý bên ngoài và các khoản phí khác được áp dụng theo trung tâm phí và trang đặt lệnh. Việc có thể sử dụng các dịch vụ liên quan phụ thuộc vào vị trí của người dùng, kết quả xác minh danh tính, quy tắc của nền tảng cũng như các luật và quy định hiện hành.Trước khi giao dịch, nhà đầu tư vẫn nên xem lại trang đặt lệnh, sao kê tài khoản và các quy định giám sát tại địa phương.

Để đánh giá nhu cầu lưu trữ AI, bạn cần xem xét xem khối lượng công việc, hoạt động mua sắm, giá cả, hàng tồn kho và chi phí có xác nhận lẫn nhau hay không. Sự tăng trưởng thực sự sẽ tiếp tục xuất hiện trong dữ liệu huấn luyện, token suy luận, ngữ cảnh dài, các lệnh gọi RAG, lưu trữ nhật ký, SSD doanh nghiệp, HDD nearline và chi tiêu vốn của trung tâm dữ liệu. Biến động hàng tồn kho ngắn hạn có thể biểu hiện qua giá tăng trước, bổ sung hàng trong kênh phân phối, phục hồi tồn kho và sau đó là chậm lại đơn hàng. Xu hướng dài hạn của nhu cầu lưu trữ AI rất quan trọng, nhưng các phán đoán về ngành và đầu tư phụ thuộc nhiều hơn vào thời điểm: nhu cầu nào đã bước vào giai đoạn sản xuất, nhu cầu nào vẫn đang trong các dự án thử nghiệm, và nhu cầu nào đã được phản ánh vào giá cả và định giá.

Nếu bạn liên tục theo dõi cơ sở hạ tầng AI, chip lưu trữ, SSD doanh nghiệp, HDD, ETF bán dẫn và các cổ phiếu liên quan tại Mỹ và Hong Kong, bạn có thể sử dụng Biya để theo dõi báo giá đa tài sản, hồ sơ giao dịch và hoạt động tài khoản. Việc đánh giá nhu cầu về năng lực tính toán và lưu trữ của AI không phải là một kết luận một lần duy nhất. Huấn luyện, suy luận, lưu trữ dữ liệu, chi tiêu vốn của dịch vụ đám mây và đơn hàng doanh nghiệp đều liên tục thay đổi. Bạn cũng có thể kết hợp thông tin cổ phiếu Mỹ với việc tự theo dõi các công ty liên quan và biến động ngành, đồng thời xác nhận tính khả dụng của dịch vụ dựa trên vị trí của bạn, kết quả xác minh danh tính, quy tắc nền tảng và các luật, quy định hiện hành.Thông tin thị trường công khai và cấu trúc phí chỉ mang tính chất tham khảo và không cấu thành lời khuyên đầu tư. Trước khi giao dịch, nhà đầu tư nên hiểu rõ các loại lệnh, cấu trúc phí, rủi ro biến động và khả năng chấp nhận rủi ro của bản thân.

Câu hỏi thường gặp

Tại sao sự tăng trưởng tính toán AI làm tăng nhu cầu lưu trữ?

Sự tăng trưởng tính toán AI làm tăng nhu cầu lưu trữ vì huấn luyện, suy luận và lưu trữ dữ liệu đều dựa vào việc đọc, lưu trữ tạm thời, ghi và giữ dữ liệu theo thời gian. Sau khi năng lực GPU tăng lên, nếu dữ liệu không thể vào hệ thống tính toán kịp thời, mức độ sử dụng GPU sẽ giảm. Do đó, lưu trữ là một phần của hạ tầng AI.

Sự khác biệt giữa nhu cầu lưu trữ cho huấn luyện AI và suy luận AI là gì?

Huấn luyện AI nhấn mạnh vào việc đọc thông lượng cao, ghi checkpoint và các pipeline dữ liệu phân tán. Suy luận AI nhấn mạnh vào việc tải trọng số mô hình, KV cache, truy cập độ trễ thấp và quản lý ngữ cảnh đồng thời cao. Cả hai đều yêu cầu lưu trữ, nhưng các chỉ số điểm nghẽn của chúng khác nhau.

Tại Sao KV Cache Ảnh Hưởng Đến Nhu Cầu Lưu Trữ Suy Luận AI?

KV cache lưu trữ các trạng thái trung gian được tạo ra khi mô hình xử lý ngữ cảnh. Ngữ cảnh dài, hội thoại nhiều lượt và người dùng đồng thời cao đều khiến KV cache tăng trưởng. Nếu HBM không đủ, hệ thống có thể sử dụng DRAM, bộ nhớ CXL hoặc SSD làm các tầng cache phân cấp.

Tại Sao Việc Lưu Trữ Dữ Liệu AI Không Thể Chỉ Dùng SSD Tốc Độ Cao?

Việc lưu trữ dữ liệu AI không thể chỉ dựa vào SSD tốc độ cao vì không phải tất cả dữ liệu đều cần truy cập độ trễ thấp. Dữ liệu huấn luyện nóng và suy luận trực tuyến cần lưu trữ tốc độ cao, trong khi kho ngữ liệu lịch sử, nhật ký, sao lưu và lưu trữ dài hạn phù hợp hơn với lưu trữ dung lượng lớn chi phí thấp hơn như lưu trữ đối tượng (object storage) và HDD nearline.

Nhà Đầu Tư Thường Có Thể Đánh Giá Như Thế Nào Để Biết Nhu Cầu Lưu Trữ AI Có Thực Sự Hay Không?

Nhà đầu tư thông thường có thể quan sát quy mô tập dữ liệu huấn luyện, khối lượng token suy luận, đơn hàng SSD doanh nghiệp, nhu cầu HDD nearline, giá bộ nhớ, hàng tồn kho và chi tiêu vốn của đám mây. Nếu nhiều chỉ số cùng tăng, độ tin cậy của nhu cầu thực sẽ cao hơn.

Tăng trưởng Nhu cầu Lưu trữ AI Có Nghĩa là Cổ phiếu Liên quan Chắc chắn Sẽ Tăng?

Tăng trưởng nhu cầu lưu trữ AI không có nghĩa là các cổ phiếu liên quan chắc chắn sẽ tăng. Giá cổ phiếu còn bị ảnh hưởng bởi định giá, hàng tồn kho, chu kỳ giá cả, cạnh tranh, mức độ tập trung khách hàng và kỳ vọng của thị trường. Trước khi giao dịch, nhà đầu tư nên cân nhắc lợi nhuận, đơn hàng, cơ cấu phí và mức độ chịu đựng rủi ro của bản thân.