Tại Sao Tăng Trưởng Tính Toán AI Lại Thúc Đẩy Nhu Cầu Lưu Trữ? Từ Huấn Luyện và Suy Luận đến Lưu Trữ Lạnh Dữ Liệu

Sự tăng trưởng sức mạnh tính toán AI thúc đẩy nhu cầu lưu trữ bởi vì nhiều GPU không hoạt động một cách cô lập. Bạn có thể hình dung một hệ thống AI như một đường ống dữ liệu đang mở rộng: trước khi huấn luyện, dữ liệu phải được thu thập và làm sạch; trong quá trình huấn luyện, các mẫu phải được đọc với tốc độ cao và các điểm kiểm tra (checkpoint) phải được lưu lại; trong quá trình suy luận, mô hình phải được tải, kiến thức phải được truy xuất, và bộ nhớ đệm cùng nhật ký phải được lưu trữ; về lâu dài, các mô hình cũ và dữ liệu lịch sử phải được lưu trữ. Do đó, nhu cầu lưu trữ không chỉ liên quan đến dung lượng lớn hơn mà còn liên quan đến thông lượng, IOPS, độ trễ thấp, độ bền, và phân tầng chi phí.

Những Điểm Chính

• Sức mạnh tính toán AI mạnh hơn thường đồng nghĩa với việc nhiều dữ liệu thô và dữ liệu được tạo ra hơn cần xử lý.
• Việc huấn luyện phụ thuộc nhiều vào lưu trữ thông lượng cao, nếu không GPU có thể phải chờ dữ liệu.
• Suy luận ở quy mô lớn làm tăng nhu cầu về trọng số mô hình, vector, bộ nhớ đệm và nhật ký.
• Lưu trữ dữ liệu lạnh biến các dự án AI ngắn hạn thành nhu cầu dung lượng dài hạn.
• SSD và HDD thường là các tầng lưu trữ bổ trợ cho nhau, chứ không đơn thuần là chất thay thế cho nhau.

Sự Tăng Trưởng Của Sức Mạnh Tính Toán AI Biến Thành Nhu Cầu Lưu Trữ Như Thế Nào

Lý do chính khiến sự tăng trưởng tính toán AI thúc đẩy nhu cầu lưu trữ không đơn thuần là "nhiều GPU hơn cần nhiều ổ đĩa hơn". Ngày càng nhiều nút tính toán cần liên tục đọc dữ liệu, ghi kết quả trung gian, lưu trạng thái mô hình và phục vụ người dùng trong thời gian dài trong quá trình suy luận. Theo giải thích của IBM về lưu trữ AI, lưu trữ AI quản lý dữ liệu cần thiết để huấn luyện và vận hành hạ tầng AI, bao gồm hồ dữ liệu (data lake), lưu trữ đám mây và cơ sở dữ liệu. Điều bạn thực sự cần theo dõi là cách dữ liệu di chuyển giữa huấn luyện, suy luận và lưu trữ dài hạn.

Các ứng dụng truyền thống thường được vận hành theo yêu cầu của người dùng, và các đỉnh cao truy cập dữ liệu của chúng có thể được dự đoán tương đối dễ dàng. Khối lượng công việc AI giống như một vòng lặp hơn. Dữ liệu thô được thu thập, làm sạch, gán nhãn, phân tách, chuyển đổi sang các định dạng phù hợp, sau đó được sử dụng để huấn luyện hoặc tinh chỉnh. Sau khi huấn luyện, trọng số mô hình, các điểm kiểm tra (checkpoint) và kết quả đánh giá được lưu lại. Sau khi triển khai, đầu vào của người dùng, đầu ra được tạo ra, nhật ký công cụ và dữ liệu phản hồi được đưa trở lại hệ thống dữ liệu, cung cấp nguyên liệu cho việc tối ưu hóa hoặc huấn luyện lại trong tương lai.

Đây là lý do vì sao lưu trữ AI không thể chỉ được đo bằng dung lượng. Dung lượng quyết định bạn có thể lưu trữ bao nhiêu dữ liệu, nhưng huấn luyện và suy luận cũng đòi hỏi thông lượng cao, độ trễ thấp và khả năng đồng thời cao. Thảo luận của NVIDIA về việc mở rộng lưu trữ cho huấn luyện và suy luận AI xem huấn luyện mô hình, ứng dụng suy luận, lưu trữ dữ liệu và điện toán tăng tốc là bốn thành phần chung của các giải pháp AI. Điều này cho thấy lưu trữ không phải là yếu tố sau đó sau GPU. Nó là một phần của ngăn xếp hạ tầng AI.

Bạn có thể hiểu mối liên hệ giữa sức mạnh tính toán AI và lưu trữ thông qua ba đường truyền tải sau:

• Nhiều GPU hơn làm tăng áp lực đọc dữ liệu huấn luyện song song.
• Mô hình lớn hơn làm tăng kích thước của các tệp trọng số và checkpoint.
• Nhiều yêu cầu suy luận hơn tạo ra sự tăng trưởng bền vững trong bộ nhớ đệm, chỉ mục vector và nhật ký.

Khối lượng công việc AI cũng khiến các chỉ số lưu trữ trở nên phức tạp hơn. Ví dụ, các bộ dữ liệu huấn luyện video và hình ảnh đòi hỏi nhiều dung lượng hơn. Các hệ thống gợi ý và truy xuất đa phương thức tạo áp lực lớn hơn lên việc truy cập tệp nhỏ và truy cập ngẫu nhiên. Huấn luyện mô hình lớn nhạy cảm hơn với tốc độ ghi và phục hồi checkpoint. Các ứng dụng RAG đưa cơ sở dữ liệu vector và lưu trữ đối tượng trực tiếp vào đường dẫn suy luận. Tổ chức NVMe cũng lưu ý rằng khối lượng công việc AI bao gồm nhập dữ liệu, tiền xử lý, huấn luyện, checkpoint và lưu trữ. Giá trị của công nghệ NVMe-oF nằm ở việc giảm thiểu điểm nghẽn dữ liệu thông qua thông lượng cao và độ trễ thấp.

Tóm tắt: Sự tăng trưởng của năng lực tính toán AI chuyển hóa thành nhu cầu lưu trữ, vì năng lực tính toán phải được "nuôi dưỡng" bằng dữ liệu. Nhiều GPU hơn đồng nghĩa với nhiều thao tác đọc song song hơn, nhiều thao tác ghi trung gian thường xuyên hơn, các tệp mô hình lớn hơn và các dịch vụ suy luận (inference) phức tạp hơn. Bạn không nên đánh giá lưu trữ AI chỉ dựa trên dung lượng terabyte. Thông lượng, IOPS, độ trễ, độ bền ghi và khả năng phân tầng dữ liệu đều rất quan trọng. Sự thay đổi thực sự là AI đẩy lưu trữ từ một tài nguyên hậu cần lên hàng đầu của quy trình tính toán. Nếu dữ liệu không thể đến được GPU một cách nhanh chóng, năng lực tính toán bổ sung có thể không được tận dụng hết. Nếu các mô hình, nhật ký và kho lưu trữ không được lên kế hoạch đúng cách, các dự án AI ngắn hạn có thể trở thành áp lực chi phí lâu dài.

Tại Sao Huấn Luyện Đầu Tiên Thúc Đẩy Lưu Trữ Hiệu Suất Cao

Huấn luyện là giai đoạn đầu tiên thúc đẩy nhu cầu về lưu trữ hiệu năng cao, vì nhiều GPU đồng thời đọc các mẫu huấn luyện và định kỳ ghi các checkpoint của mô hình. Bạn có thể hình dung một cụm GPU như một nhóm động cơ tốc độ cao, trong khi hệ thống lưu trữ chính là đường dây tiếp nhiên liệu. Nếu việc tải dữ liệu không theo kịp, những bộ tăng tốc đắt tiền sẽ phải chờ dữ liệu đầu vào, chu kỳ huấn luyện kéo dài hơn và chi phí tính toán trên mỗi đơn vị tăng lên. Đó là lý do vì sao nhu cầu huấn luyện trước tiên làm gia tăng yêu cầu về lưu trữ doanh nghiệp có thông lượng cao, độ trễ thấp và khả năng truy cập đồng thời lớn.

Dữ liệu huấn luyện không chỉ được đọc một lần. Việc huấn luyện các mô hình lớn thường đòi hỏi nhiều lượt duyệt qua tập dữ liệu, và hình ảnh, video, âm thanh cùng dữ liệu cảm biến chiếm nhiều không gian hơn nhiều so với văn bản thuần túy. Tăng cường dữ liệu, chuyển đổi định dạng, chia nhỏ mẫu và xây dựng chỉ mục cũng tạo ra các tệp trung gian. Thực tiễn tải dữ liệu học máy của AWS nhấn mạnh rằng song song hóa, tải trước và lưu đệm có thể giảm tình trạng nghẽn I/O và giúp duy trì mức sử dụng GPU cao hơn. Điều này cho thấy hiệu năng huấn luyện không chỉ phụ thuộc vào chip mà còn phụ thuộc vào việc dữ liệu có thể đến kịp thời hay không.

Một yêu cầu quan trọng khác đến từ việc lưu điểm kiểm tra (checkpoint). Việc huấn luyện các mô hình lớn đòi hỏi phải lưu định kỳ các tham số mô hình, trạng thái bộ tối ưu hóa và tiến trình huấn luyện để công việc có thể khôi phục sau khi bị gián đoạn thay vì bắt đầu lại từ đầu. Giải thích của NVIDIA về checkpointing chỉ ra rằng việc lưu điểm kiểm tra đồng bộ sẽ tạm dừng huấn luyện cho đến khi dữ liệu được ghi vào bộ lưu trữ, do đó cần thông lượng ghi cao để giảm thiểu thời gian tạm dừng. Mô hình càng lớn, thời gian huấn luyện càng dài và cụm GPU càng đắt đỏ thì việc ghi và khôi phục điểm kiểm tra càng trở nên quan trọng.

Khi đánh giá nhu cầu lưu trữ cho huấn luyện, bạn có thể tập trung vào các tín hiệu sau:

• Quy mô cụm GPU có đang mở rộng hay không.
• Tham số mô hình và các checkpoint có ngày càng lớn hơn hay không.
• Dữ liệu đa phương thức có chiếm tỷ trọng cao hơn trong khối lượng công việc hay không.
• Các công việc huấn luyện có đòi hỏi tinh chỉnh và chạy lại thường xuyên hay không.
• Việc tải dữ liệu có ảnh hưởng đến hiệu suất sử dụng GPU hay không.
• Có yêu cầu sao chép liên vùng và khôi phục sau thảm họa hay không.

Lưu trữ huấn luyện không phải là một lớp duy nhất. Dữ liệu huấn luyện đang hoạt động có thể nằm trên ổ SSD NVMe, hệ thống tệp song song, hoặc các lớp bộ nhớ đệm tốc độ cao. Dữ liệu thô và dữ liệu đã xử lý có thể nằm trong lưu trữ đối tượng. Các checkpoint cũ và dữ liệu lịch sử cuối cùng được chuyển vào lưu trữ lạnh. Kiến trúc checkpoint của AWS cho việc huấn luyện học máy quy mô lớn cũng lưu ý rằng các thao tác checkpoint cho huấn luyện LLM có thể trở thành khối lượng công nghiệp ở cấp độ petabyte, đòi hỏi sự cân bằng giữa hiệu suất, khả năng mở rộng và chi phí.

Tóm tắt: Huấn luyện là nơi nhu cầu lưu trữ AI tập trung rõ rệt nhất. Lý do rất trực tiếp: càng nhiều GPU thì việc đọc dữ liệu song song càng gay gắt; mô hình càng lớn thì việc ghi checkpoint càng nặng nề; thời gian huấn luyện càng dài thì việc khôi phục và chịu lỗi càng có giá trị. Bạn không nên chỉ nhìn vào kích thước ban đầu của bộ dữ liệu huấn luyện. Các bản sao dữ liệu, tệp tiền xử lý, chỉ mục, bộ nhớ đệm, checkpoint và nhiều phiên bản mô hình đều cần được tính đến. Ổ cứng SSD hiệu năng cao, hệ thống tệp song song, mạng tốc độ cao và lưu trữ đối tượng thường cần phối hợp với nhau. Nếu hệ thống lưu trữ không theo kịp, doanh nghiệp có thể mua thêm GPU nhưng vẫn không thể chuyển đổi sức mạnh tính toán thành hiệu suất huấn luyện thực sự.

Vì Sao Suy Luận Mở Rộng Tạo Ra Sự Tăng Trưởng Lưu Trữ Liên Tục

Suy luận không phải là một giai đoạn ít tốn dung lượng lưu trữ sau khi quá trình huấn luyện hoàn tất. Ngược lại, một khi các ứng dụng AI đi vào hoạt động sản xuất thực tế, nhu cầu lưu trữ mở rộng từ dữ liệu huấn luyện một lần sang các trọng số mô hình chạy liên tục, cơ sở dữ liệu vector, bộ nhớ đệm ngữ cảnh, nhật ký người dùng và nội dung được tạo ra. Bạn có thể hình dung việc huấn luyện như "chế tạo ra mô hình", còn suy luận là "vận hành mô hình trong thời gian dài". Chừng nào số lượng người dùng, khối lượng yêu cầu, độ dài ngữ cảnh và đầu đa phương thức tiếp tục tăng, nhu cầu lưu trữ phía suy luận có xu hướng tiếp tục tăng trưởng.

Động lực đầu tiên là quản lý trọng số mô hình và phiên bản. Sau khi một mô hình được triển khai chính thức, doanh nghiệp thường không chỉ giữ lại một tệp duy nhất. Có thể họ duy trì một mô hình nền tảng, các mô hình tinh chỉnh, các phiên bản canary, các phiên bản rollback, và các bản sao triển khai ở nhiều khu vực khác nhau. Khi dịch vụ suy luận mở rộng quy mô, các instance mới cần tải trọng số mô hình một cách nhanh chóng. Khi dịch vụ gặp sự cố, các nhóm cũng cần rollback nhanh chóng về một phiên bản ổn định. Điều này làm tăng nhu cầu đối với kho lưu trữ mô hình, lưu trữ nóng, và quản lý phiên bản.

Động lực thứ hai là RAG. Google Cloud mô tả RAG là một khung kết hợp các hệ thống truy xuất thông tin truyền thống với các mô hình ngôn ngữ lớn, cho phép các mô hình sử dụng kho tri thức và cơ sở dữ liệu bên ngoài. Đối với các doanh nghiệp, điều này có nghĩa là tài liệu nguồn, các đoạn văn bản, vector embedding, chỉ mục vector, chỉ mục từ khóa, thông tin phân quyền và siêu dữ liệu nguồn có thể cùng tồn tại tại một thời điểm. Các kiến trúc tham chiếu RAG của Google Cloud cũng cho thấy RAG cấp sản xuất có thể kết hợp tìm kiếm vector, cơ sở dữ liệu, GKE, Cloud SQL, đồ thị tri thức và các kiến trúc khác.

Bối cảnh dài và các tác nhân AI cũng làm thay đổi áp lực lưu trữ. Suy luận với bối cảnh dài đòi hỏi nhiều việc quản lý trạng thái phiên và bộ nhớ đệm hơn. Các tác vụ của tác nhân AI cũng có thể lưu lại hồ sơ gọi công cụ, kết quả truy xuất web, kết quả thực thi mã và các dấu vết suy luận trung gian. Việc sinh dữ liệu đa phương thức càng làm tăng thêm hình ảnh, âm thanh, video và các phiên bản đã chỉnh sửa. So với hỏi đáp văn bản một lần, các đối tượng dữ liệu này lớn hơn, phân mảnh hơn và nhiều khả năng cần phải truy xuất và theo dõi hơn.

Nhu cầu lưu trữ ở giai đoạn suy luận có thể được quan sát qua bốn con đường:

• Nhiều người dùng hơn làm tăng nhật ký suy luận và hồ sơ hội thoại.
• Bối cảnh dài hơn khiến việc quản lý bộ nhớ đệm và trạng thái nặng nề hơn.
• Các ứng dụng RAG mở rộng cơ sở dữ liệu vector và bản sao tệp nguồn.
• Việc sinh dữ liệu đa phương thức tạo ra nhiều tệp hình ảnh, âm thanh và video hơn.

Đây cũng chính là lý do vì sao hạ tầng AI đang chuyển dịch từ "trung tâm huấn luyện" sang sự kết hợp giữa "huấn luyện + suy luận + dịch vụ dữ liệu." Suy luận có nhiều yêu cầu lưu trữ phân tán hơn: việc tải mô hình cần băng thông, truy xuất vector cần độ trễ thấp và IOPS cao, lưu trữ nhật ký cần dung lượng và kiểm soát chi phí, còn kiểm toán tuân thủ đòi hỏi chính sách lưu giữ dữ liệu. Nhu cầu này có thể không tăng vọt mạnh mẽ trong thời gian ngắn như huấn luyện, nhưng nó dễ tạo ra nhu cầu dung lượng dài hạn, ổn định và tích lũy theo thời gian.

Tóm tắt: Suy luận ở quy mô lớn biến lưu trữ AI từ nhu cầu theo dự án thành nhu cầu vận hành. Sau khi huấn luyện hoàn tất, trọng số mô hình, các bản sao phiên bản, tài liệu RAG, chỉ mục vector, KV Cache, nhật ký người dùng và nội dung được tạo ra đều tiếp tục tăng trưởng. Khi đánh giá nhu cầu lưu trữ cho suy luận, bạn không nên chỉ nhìn vào kích thước mô hình. Bạn cũng cần xem xét số lượng người dùng hoạt động hàng ngày, tần suất yêu cầu, độ dài ngữ cảnh, có sử dụng RAG hay không, có tạo hình ảnh hoặc video hay không, và có cần lưu giữ hồ sơ kiểm toán hay không. Huấn luyện thúc đẩy lưu trữ thông lượng cao, trong khi suy luận thúc đẩy độ trễ thấp, đồng thời cao và quản lý dữ liệu dài hạn. Cùng với nhau, chúng định hình kiến trúc lưu trữ của các trung tâm dữ liệu AI.

Vì sao lưu trữ dữ liệu lạnh trở thành một phần của hạ tầng AI

Dữ liệu AI hiện không được sử dụng không nhất thiết có nghĩa là có thể xóa nó. Các bộ dữ liệu huấn luyện lịch sử, các mô hình cũ, nhật ký suy luận (inference logs), các checkpoint cũ và dữ liệu thô có thể được tái sử dụng cho việc huấn luyện lại, so sánh hiệu suất, kiểm toán mô hình, khôi phục sau thảm họa hoặc lưu trữ tuân thủ. Giá trị của việc lưu trữ dữ liệu lạnh là chuyển dữ liệu ít được truy cập nhưng vẫn có giá trị từ bộ lưu trữ trực tuyến đắt đỏ sang các tầng dung lượng có chi phí thấp hơn, giúp hạ tầng AI cân bằng giữa hiệu suất và chi phí.

Dữ liệu lạnh AI thường bao gồm:

• Dữ liệu huấn luyện thô và các ảnh chụp lịch sử.
• Các tập dữ liệu đã được làm sạch nhưng hiện không còn sử dụng.
• Các phiên bản mô hình cũ và các checkpoint.
• Các phiên bản vector và chỉ mục lịch sử.
• Nhật ký suy luận dài hạn và hồ sơ an toàn.
• Tài sản mô hình từ các dự án đã ngừng hoạt động.
• Hồ sơ xử lý dữ liệu dùng cho việc kiểm toán và truy xuất nguồn gốc.

Doanh nghiệp không thể đơn giản xóa dữ liệu cũ vì bốn lý do. Thứ nhất, các mô hình mới có thể tái sử dụng dữ liệu lịch sử. Thứ hai, khi đầu ra của mô hình trở nên bất thường, các nhóm có thể cần truy vết nguồn dữ liệu huấn luyện. Thứ ba, dữ liệu cũ có thể cần được xử lý lại khi phương thức làm sạch dữ liệu thay đổi. Thứ tư, hợp đồng kinh doanh, quy tắc ngành và quy định địa phương có thể yêu cầu lưu giữ các hồ sơ cụ thể. Nhưng việc lưu giữ không có nghĩa là giữ lại mọi thứ mãi mãi. Khi liên quan đến thông tin cá nhân, dữ liệu nhạy cảm, dữ liệu xuyên biên giới hoặc các ngành được quản lý, dữ liệu phải được xử lý theo phạm vi ủy quyền, giới hạn mục đích và thời hạn lưu giữ.

Việc phân tầng lưu trữ đám mây cũng phản ánh logic này. Archive storage của Google Cloud được thiết kế cho dữ liệu được truy cập ít hơn một lần mỗi năm, thường với chi phí truy cập và thao tác cao hơn cùng yêu cầu về thời gian lưu trữ tối thiểu. Object Lifecycle Management của Google Cloud cũng có thể tự động thay đổi lớp lưu trữ hoặc xóa các đối tượng dựa trên tuổi của đối tượng, trạng thái phiên bản và các quy tắc khác. Đối với các nhóm AI, loại quản lý vòng đời này có thể dần dần chuyển các bộ dữ liệu huấn luyện cũ, các checkpoint cũ và nhật ký lịch sử vào các tầng truy cập tần suất thấp.

Khi thiết kế chiến lược lưu trữ cho AI, bạn có thể tập trung vào sáu câu hỏi:

1. Dữ liệu này có thể được sử dụng để huấn luyện lại trong tương lai không?
2. Việc khôi phục có thể chờ vài phút, vài giờ hoặc vài ngày không?
3. Có cần nhiều bản sao hoặc bản sao chép liên vùng không?
4. Dữ liệu có liên quan đến quyền riêng tư, ủy quyền hoặc chủ quyền dữ liệu không?
5. Việc đọc dữ liệu lưu trữ có tạo ra chi phí truy xuất cao không?
6. Dữ liệu có thời gian lưu giữ và yêu cầu xóa được xác định rõ ràng không?

Dữ liệu lạnh cũng ảnh hưởng đến nhu cầu phần cứng. SSD hiệu suất cao phù hợp với dữ liệu nóng và dữ liệu ấm, nhưng lưu trữ dài hạn quy mô lớn thường yêu cầu lưu trữ dung lượng có chi phí thấp hơn. Trong việc lập kế hoạch AI Factory doanh nghiệp, NVIDIA lưu ý rằng lưu trữ phân tầng có thể sử dụng NVMe cho dữ liệu huấn luyện nóng và các mô hình, trong khi lưu trữ đối tượng có thể hỗ trợ lưu trữ lạnh và dữ liệu lịch sử. Phần lớn sự tăng trưởng lưu trữ AI mà bạn thấy không đến từ một lần huấn luyện đơn lẻ, mà từ nhiều năm dữ liệu tích lũy.

Tóm tắt: Lưu trữ dữ liệu lạnh mở rộng nhu cầu lưu trữ AI từ việc mở rộng sức mạnh tính toán ngắn hạn sang một chu kỳ dung lượng dài hạn. Một lần huấn luyện đã hoàn thành, một mô hình đã ngừng sử dụng, hoặc một tập dữ liệu tạm thời không dùng đến không có nghĩa là tài sản đó không còn giá trị. Những tài sản này có thể phục vụ việc huấn luyện lại, kiểm toán, khôi phục về phiên bản trước, tuân thủ quy định và khôi phục sau thảm họa. Cách tiếp cận hợp lý hơn là thiết lập các tầng nóng, ấm và lạnh: các lớp hiệu năng cao phục vụ việc huấn luyện và suy luận hiện tại, trong khi các lớp chi phí thấp bảo toàn dữ liệu có tần suất truy cập thấp nhưng quan trọng. Điều này tránh việc giữ toàn bộ dữ liệu trên SSD đắt tiền trong thời gian dài, đồng thời giảm rủi ro không thể khôi phục dữ liệu có giá trị khi cần thiết.

Những Công Nghệ Lưu Trữ Nào Được Lợi Ích, và Cách Đánh Giá Mức Độ Mạnh Của Nhu Cầu

Việc mở rộng sức mạnh tính toán AI không chỉ mang lại lợi ích cho một loại thiết bị lưu trữ duy nhất. Các SSD doanh nghiệp hiệu năng cao chủ yếu giải quyết các vấn đề về tốc độ trong huấn luyện, lưu điểm kiểm tra (checkpointing), tải mô hình và truy xuất vector. Các SSD dung lượng lớn có thể xử lý dữ liệu ấm và các tầng flash hướng đến dung lượng. Ổ cứng HDD nearline và lưu trữ đối tượng (object storage) hỗ trợ các hồ dữ liệu quy mô lớn, dữ liệu lịch sử và kho lưu trữ lạnh. Khi đánh giá các cơ hội lưu trữ cho AI, bạn nên nhìn vào vòng đời dữ liệu thay vì quy đổi trực tiếp số lượng GPU thành nhu cầu SSD hoặc HDD.

Các công nghệ lưu trữ khác nhau thường đóng những vai trò sau:

Từ góc độ chuỗi giá trị, nhu cầu lưu trữ AI có thể dòng chảy vào SSD doanh nghiệp, NAND, HDD, bộ điều khiển, máy chủ lưu trữ, thiết bị mạng và dịch vụ lưu trữ đám mây. Lộ trình HDD 100TB+ của Western Digital nêu bật sự đổi mới HDD cho dữ liệu quy mô AI, bao gồm dung lượng cao hơn và mức tiêu thụ điện năng thấp hơn. Một cuộc khảo sát do Seagate ủy quyền cũng cho thấy, dưới sự thúc đẩy của việc tạo dữ liệu AI, nhiều doanh nghiệp được khảo sát kỳ vọng nhu cầu lưu trữ đám mây sẽ tăng significantly vào năm 2028, với kết quả được công bố trong Việc tạo dữ liệu dựa trên AI khảo sát.

Nhưng bạn không nên chỉ dựa vào câu chuyện của ngành. Sức mạnh của nhu cầu lưu trữ AI cần được đánh giá trên ít nhất ba cấp độ:

• Cấp độ nhu cầu: Liệu GPU có thực sự được đưa vào vận hành hay không và liệu khối lượng công việc huấn luyện và suy luận có đang tăng trưởng hay không.
• Cấp độ sản phẩm: Liệu dữ liệu mới có chảy vào ổ SSD, ổ HDD, lưu trữ đối tượng hay dịch vụ đám mây hay không.
• Cấp độ chu kỳ: Liệu giá cả, tồn kho, mở rộng công suất và định giá đã phản ánh kỳ vọng hay chưa.

Bạn cũng cần lưu ý rằng các cải tiến kỹ thuật có thể làm giảm nhu cầu lưu trữ trên mỗi đơn vị tính toán. Ví dụ, việc khử trùng lặp và nén dữ liệu có thể giảm mức sử dụng dung lượng. Lượng tử hóa mô hình có thể thu nhỏ các tệp triển khai. Tái sử dụng bộ nhớ đệm có thể giảm các lần đọc lặp lại. Quản trị dữ liệu tốt hơn có thể giảm dữ liệu không hợp lệ. Nếu các nhà cung cấp dịch vụ đám mây cải thiện khả năng sử dụng tài nguyên hiện có, việc mua sắm mới cũng có thể bị trì hoãn.

Nếu bạn theo dõi các công ty trong chuỗi giá trị lưu trữ AI hoặc các ETF liên quan, bạn có thể sử dụng thông tin cổ phiếu Mỹ để theo dõi các mã cổ phiếu về lưu trữ, bán dẫn và hạ tầng đám mây. Nếu bạn cân nhắc thêm chi phí giao dịch, bạn cũng cần tính hoa hồng, phí nền tảng, phí bên ngoài và phí hoạt động giao dịch vào phép tính lợi nhuận thực tế của mình. Biya miễn phí hoa hồng 0 USD cho giao dịch cổ phiếu Mỹ, trong khi phí nền tảng, phí bên ngoài và các khoản phí khác tuân theo biểu phí giao dịch cổ phiếu Mỹ của Biya và hiển thị trên trang đặt lệnh. Việc cung cấp dịch vụ phụ thuộc vào vị trí của người dùng, kết quả xác minh danh tính, quy tắc của nền tảng cũng như các luật và quy định hiện hành.

Tóm tắt: Logic đầu tư vào lưu trữ AI không phải là một đường thẳng kiểu “càng nhiều GPU thì càng nhiều SSD”. Huấn luyện đòi hỏi SSD hiệu năng cao và hệ thống tệp song song. Suy luận đòi hỏi truy xuất độ trễ thấp, bộ nhớ đệm và hệ thống nhật ký. Lưu trữ lạnh đòi hỏi lưu trữ dung lượng chi phí thấp. Ổ cứng HDD, SSD, lưu trữ đối tượng và các tầng bộ nhớ đệm nhiều khả năng sẽ phối hợp với nhau thay vì thay thế hoàn toàn lẫn nhau. Khi đánh giá các cơ hội trong ngành, bạn cần đồng thời theo dõi khối lượng công việc AI thực tế, sự tăng trưởng dữ liệu, độ bền của đơn hàng khách hàng, chu kỳ tồn kho, giá bán trung bình, chi tiêu vốn và mức định giá. Sự tăng trưởng nhu cầu ngành dài hạn không có nghĩa là tất cả các cổ phiếu liên quan sẽ cùng tăng đồng loạt.

Mối quan hệ giữa nhu cầu tính toán AI và nhu cầu lưu trữ về bản chất là sự nâng cấp của hệ thống dữ liệu song hành cùng năng lực tính toán. Nếu bạn chỉ theo dõi GPU, HBM hay đóng gói tiên tiến, bạn có thể bỏ lỡ các biến số dài hạn như nạp dữ liệu, checkpointing, cơ sở dữ liệu vector, lưu trữ lạnh và chi phí lưu trữ đám mây. Đối với nhà đầu tư, một cách tiếp cận kỷ luật hơn là phân tích lưu trữ AI trong toàn chuỗi giá trị: thượng nguồn là NAND, HDD, bộ điều khiển và máy chủ; trung nguồn là hệ thống lưu trữ và hạ tầng đám mây; hạ nguồn là huấn luyện, suy luận và việc sử dụng AI thực tế trong doanh nghiệp. Bạn có thể sử dụng Biya để theo dõi thông tin thị trường về Mỹcổ phiếu, cổ phiếu Hồng Kông và tài sản số, đồng thời kết hợp với lợi nhuận công ty, chi tiêu vốn, cơ cấu khách hàng, biến động hàng tồn kho và chi tiết phí để đưa ra nhận định độc lập. Thông tin thị trường công khai, quy tắc giao dịch và cơ cấu phí chỉ nhằm mục đích tìm hiểu thị trường và không cấu thành lời khuyên đầu tư.

Câu hỏi thường gặp

Mua lưu trữ AI có tăng gấp đôi nếu dữ liệu huấn luyện AI tăng gấp đôi không?

Không nhất thiết. Sự gia tăng của dữ liệu huấn luyện làm tăng nhu cầu về dung lượng và thông lượng lưu trữ, nhưng việc mua sắm thực tế còn phụ thuộc vào khử trùng lặp dữ liệu, nén dữ liệu, tái sử dụng bộ nhớ đệm, định dạng dữ liệu, kiến trúc mô hình và mức utilization của hệ thống lưu trữ. Các doanh nghiệp có thể tối ưu hóa pipeline dữ liệu trước khi bổ sung phần cứng, vì vậy không nên coi sự tăng trưởng dữ liệu là thước đo trực tiếp một-một cho việc mua thiết bị.

Tại sao việc triển khai RAG của doanh nghiệp làm tăng chi phí cơ sở dữ liệu vector?

RAG làm tăng chi phí cơ sở dữ liệu vector vì doanh nghiệp thường cần lưu trữ tài liệu gốc, các đoạn văn bản, vector nhúng (embeddings), chỉ mục, siêu dữ liệu phân quyền và các phiên bản lịch sử. Càng nhiều tài liệu, tần suất cập nhật càng cao và độ đồng thời truy vấn càng lớn thì chi phí lưu trữ, bảo trì chỉ mục và tài nguyên truy xuất càng trở nên rõ rệt. Các khoản phí cụ thể phụ thuộc vào quy tắc định giá của dịch vụ đám mây hoặc cơ sở dữ liệu.

Nhu cầu bộ nhớ đệm mà suy luận AI ngữ cảnh dài tạo ra là gì?

Suy luận AI ngữ cảnh dài thường làm tăng nhu cầu đối với KV Cache, trạng thái phiên (session state), kết quả truy xuất và quản lý ngữ cảnh trung gian. Mức tăng thực tế phụ thuộc vào số người dùng đồng thời, độ dài ngữ cảnh, thời gian lưu giữ bộ nhớ đệm và chiến lược phân tầng. Một số bộ đệm được lưu trong bộ nhớ GPU hoặc bộ nhớ hệ thống, trong khi một số có thể được chuyển xuống SSD hoặc lưu trữ phân tán.

Trung tâm dữ liệu AI có thay thế hoàn toàn HDD bằng SSD không?

Trong ngắn hạn, việc thay thế hoàn toàn là khó xảy ra. SSD phù hợp hơn cho huấn luyện, suy luận, truy xuất và truy cập dữ liệu nóng, trong khi HDD phù hợp hơn cho dữ liệu quy mô lớn tần suất thấp, dữ liệu lịch sử và lưu trữ lạnh. Trung tâm dữ liệu AI phổ biến hơn sử dụng kiến trúc phân tầng, lựa chọn phương tiện lưu trữ dựa trên tần suất truy cập, yêu cầu độ trễ, quy mô dung lượng và tổng chi phí.

Doanh nghiệp nên lưu giữ dữ liệu huấn luyện AI trong bao lâu?

Không có thời gian lưu trữ phổ quát nào cho dữ liệu huấn luyện AI. Doanh nghiệp nên xác định thời gian lưu trữ dựa trên giá trị huấn luyện lại, yêu cầu kiểm toán, ủy quyền của người dùng, mức độ nhạy cảm của dữ liệu, nghĩa vụ hợp đồng và yêu cầu quy định tại địa phương. Khi có thông tin cá nhân hoặc dữ liệu thuộc diện quản lý, việc xóa, ẩn danh hóa, kiểm soát truy cập và theo dõi kiểm toán cũng là cần thiết.

Nhà đầu tư có thể đánh giá như thế nào xem nhu cầu lưu trữ cho AI có bền vững hay không?

Nhà đầu tư có thể đánh giá tính bền vững thông qua độ bền của đơn hàng, chi phí đầu tư vốn của nhà cung cấp dịch vụ đám mây, sản lượng xuất xưởng SSD doanh nghiệp và HDD nearline, giá bán trung bình, mức tồn kho, mức độ tập trung khách hàng, và mức độ sử dụng thực tế của các ứng dụng AI. Việc tăng giá trong một quý hoặc tình trạng thiếu hụt ngắn hạn có thể chỉ phản ánh sự căng thẳng tạm thời. Nhu cầu dài hạn phụ thuộc vào việc khối lượng công việc huấn luyện và suy luận có tiếp tục mở rộng hay không.