왜 AI 컴퓨팅 성장이 스토리지 수요를 견인하는가? 훈련과 추론에서 콜드 데이터 아카이빙까지

AI 연산 성장이 스토리지 수요를 견인하는 이유는 더 많은 GPU가 고립되어 작동하지 않기 때문입니다. AI 시스템을 확장되는 데이터 파이프라인으로 생각할 수 있습니다. 학습 전에는 데이터를 수집하고 정제해야 하며, 학습 중에는 샘플을 고속으로 읽고 체크포인트를 저장해야 하고, 추론 중에는 모델을 로드하고 지식을 검색하며 캐시와 로그를 저장해야 하고, 장기적으로는 오래된 모델과 역사적 데이터를 아카이빙해야 합니다. 따라서 스토리지 수요는 단순히 더 큰 용량만의 문제가 아닙니다. 처리량, IOPS, 낮은 지연 시간, 내구성, 그리고 비용 계층화 문제이기도 합니다.

핵심 요약

• 더 강력한 AI 컴퓨팅은 일반적으로 처리해야 할 원시 데이터와 생성된 데이터의 증가를 의미합니다.
• 훈련은 고처리량 스토리지에 크게 의존하며, 그렇지 않으면 GPU가 데이터를 기다리게 될 수 있습니다.
• 확장된 추론은 모델 가중치, 벡터, 캐시 및 로그에 대한 수요를 증가시킵니다.
• 콜드 데이터 아카이빙은 단기 AI 프로젝트를 장기적인 용량 수요로 전환시킵니다.
• SSD와 HDD는 일반적으로 단순한 대체재가 아니라 상호 보완적인 스토리지 계층입니다.

AI 컴퓨팅 성장이 스토리지 수요로 전환되는 방식

AI 컴퓨팅 성장이 스토리지 수요를 견인하는 핵심 이유는 단순히 "GPU가 많아지면 드라이브도 많아진다"는 것이 아닙니다. 더 많은 컴퓨팅 노드가 데이터를 지속적으로 읽고, 중간 결과를 쓰고, 모델 상태를 저장하며, 추론 과정에서 장기간 사용자에게 서비스를 제공해야 하기 때문입니다. IBM의 AI 스토리지 설명에 따르면, AI 스토리지는 데이터 레이크, 클라우드 스토리지, 데이터베이스를 포함하여 AI 인프라를 학습하고 실행하는 데 필요한 데이터를 관리합니다. 정말 주목해야 할 것은 학습, 추론, 아카이빙 전반에서 데이터가 어떻게 이동하는지입니다.

기존 애플리케이션은 주로 사용자 요청에 의해 구동되며, 데이터 접근 피크를 비교적 예측할 수 있습니다. AI 워크로드는 마치 하나의 순환과 같습니다. 원시 데이터가 수집되고, 정리되고, 레이블링되고, 분할되고, 적합한 형식으로 변환된 후, 훈련 또는 파인튜닝에 사용됩니다. 훈련이 끝나면 모델 가중치, 체크포인트, 평가 결과가 저장됩니다. 배포 후에는 사용자 입력, 생성된 출력, 도구 로그, 피드백 데이터가 다시 데이터 시스템으로 흘러들어 미래의 최적화 또는 재훈련을 위한 소재를 제공합니다.

이것이 AI 스토리지를 용량만으로 측정할 수 없는 이유입니다. 용량은 얼마나 많은 데이터를 보관할 수 있는지를 결정하지만, 학습과 추론에는 높은 처리량, 낮은 지연 시간, 높은 동시성도 필요합니다. NVIDIA의 AI 학습 및 추론 스토리지 확장에 관한 논의에서는 모델 학습, 추론 애플리케이션, 데이터 스토리지, 가속 컴퓨팅을 AI 솔루션의 네 가지 공통 구성 요소로 다룹니다. 이는 스토리지가 GPU 뒤에 나중에 생각하는 부수적인 것이 아니라 AI 인프라 스택의 일부임을 보여줍니다.

GPU와 스토리지 간의 연결은 세 가지 전송 경로를 통해 이해할 수 있습니다:

• GPU가 많아질수록 병렬 학습 데이터 읽기 부하가 증가합니다.
• 모델이 커질수록 가중치 파일과 체크포인트의 크기가 증가합니다.
• 추론 요청이 많아질수록 캐시, 벡터 인덱스, 로그가 지속적으로 증가합니다.

AI 워크로드는 스토리지 지표를 더욱 복잡하게 만듭니다. 예를 들어, 비디오 및 이미지 학습 데이터 세트는 더 많은 용량을 필요로 합니다. 추천 시스템과 멀티모달 검색은 소용량 파일 및 랜덤 액세스에 더 큰 부담을 줍니다. 대규모 모델 학습은 체크포인트 쓰기 및 복구 속도에 더 민감합니다. RAG 애플리케이션은 벡터 데이터베이스와 오브젝트 스토리지를 추론 경로에 직접 포함시킵니다. NVMe 단체 역시 AI 워크로드에 데이터 수집, 전처리, 학습, 체크포인팅 및 아카이빙이 포함된다고 언급합니다. NVMe-oF 기술의 가치는 높은 처리량과 낮은 지연 시간을 통해 데이터 병목 현상을 줄이는 데 있습니다.

요약: AI 컴퓨팅 성장은 스토리지 수요로 전환됩니다. 컴퓨팅은 데이터로 "먹여야" 하기 때문입니다. GPU가 많아질수록 병렬 읽기가 더 많아지고, 중간 쓰기가 더 자주 발생하며, 모델 파일이 더 커지고, 추론 서비스가 더 복잡해집니다. AI 스토리지를 테라바이트 단위의 용량만으로 평가해서는 안 됩니다. 처리량, IOPS, 지연 시간, 쓰기 내구성, 데이터 계층화 능력 모두가 중요합니다. 진정한 변화는 AI가 스토리지를 백엔드 자원에서 컴퓨팅 파이프라인의 최전선으로 밀어올렸다는 점입니다. 데이터가 GPU에 빠르게 도달하지 못하면 추가된 컴퓨팅 자원이 충분히 활용되지 않을 수 있습니다. 모델, 로그, 아카이브가 제대로 계획되지 않으면 단기 AI 프로젝트가 장기적인 비용 부담으로 바뀔 수 있습니다.

학습이 먼저 고성능 스토리지를 주도하는 이유

학습(Training)은 많은 GPU가 동시에 학습 샘플을 읽고 주기적으로 모델 체크포인트를 쓰기 때문에 고성능 스토리지를 필요로 하는 첫 번째 단계입니다. GPU 클러스터를 고속 엔진 그룹으로 생각하고, 스토리지 시스템을 연료 공급 라인으로 생각할 수 있습니다. 데이터 로딩이 따라가지 못하면 값비싼 가속기가 입력을 기다리게 되고, 학습 주기가 길어지며, 단위 연산 비용이 상승합니다. 바로 이러한 이유로 학습 수요는 높은 처리량, 낮은 지연 시간, 높은 동시성 액세스를 갖춘 엔터프라이즈 스토리지에 대한 수요를 먼저 증가시키는 것입니다.

학습 데이터는 한 번만 읽히는 것이 아닙니다. 대규모 모델 학습은 종종 데이터셋을 여러 번 반복해서 처리해야 하며, 이미지, 비디오, 오디오, 센서 데이터는 일반 텍스트보다 훨씬 많은 공간을 차지합니다. 데이터 증강, 포맷 변환, 샘플 분할, 인덱스 구축 또한 중간 파일을 생성합니다. AWS의 머신러닝 데이터 로딩 관행은 병렬화, 프리페칭, 캐싱이 I/O 병목 현상을 줄이고 GPU 활용률을 더 높게 유지하는 데 도움이 될 수 있다고 강조합니다. 이는 학습 성능이 칩에만 의존하는 것이 아니라 데이터가 제때 도착할 수 있는지에도 달려 있음을 보여줍니다.

또 다른 중요한 수요는 체크포인트에서 발생합니다. 대규모 모델을 학습하려면 모델 파라미터, 옵티마이저 상태, 그리고 학습 진행 상황을 주기적으로 저장해야 하며, 이를 통해 작업이 중단된 후 처음부터 다시 시작하는 대신 복구할 수 있습니다. 체크포인팅에 대한 NVIDIA의 설명에 따르면, 동기식 체크포인팅은 데이터가 스토리지에 기록될 때까지 학습을 일시 중지하므로, 지연 시간을 줄이기 위해서는 높은 쓰기 처리량이 필요합니다. 모델이 클수록, 학습 기간이 길수록, 그리고 GPU 클러스터 비용이 클수록 체크포인트 쓰기와 복구가 더욱 중요해집니다.

학습 스토리지 수요를 평가할 때 다음 신호들에 주목할 수 있습니다:

• GPU 클러스터 규모가 확장되고 있는지 여부.
• 모델 파라미터와 체크포인트가 점점 커지고 있는지 여부.
• 멀티모달 데이터가 워크로드에서 더 높은 비중을 차지하고 있는지 여부.
• 학습 작업에 잦은 파인튜닝과 재실행이 필요한지 여부.
• 데이터 로딩이 GPU 활용도에 영향을 미치는지 여부.
• 리전 간 복제 및 재해 복구가 필요한지 여부.

트레이닝 스토리지는 단일 계층이 아닙니다. 활성 트레이닝 데이터는 NVMe SSD, 병렬 파일 시스템 또는 고속 캐시 계층에 존재할 수 있습니다. 원시 데이터와 처리된 데이터는 오브젝트 스토리지에 있을 수 있습니다. 오래된 체크포인트와 이력 데이터는 결국 콜드 스토리지로 이동합니다. 대규모 머신 러닝 트레이닝을 위한 AWS의 체크포인트 아키텍처는 LLM 트레이닝의 체크포인트 작업이 페타바이트 규모의 워크로드가 될 수 있으며, 성능, 확장성, 비용 간의 균형이 필요하다는 점도 언급합니다.

요약: 훈련(Training)은 AI 스토리지 수요가 가장 두드러지게 집중되는 영역입니다. 그 이유는 직접적입니다. GPU가 많아질수록 병렬 데이터 읽기가 더욱 집중적이 되고, 모델이 커질수록 체크포인트 쓰기 부담이 더 무거워지며, 훈련 실행 시간이 길어질수록 복구와 장애 허용의 가치가 더 커집니다. 훈련 데이터셋의 원본 크기만 봐서는 안 됩니다. 데이터 복사본, 전처리 파일, 인덱스, 캐시, 체크포인트, 그리고 여러 모델 버전까지 모두 포함해야 합니다. 고성능 SSD, 병렬 파일 시스템, 고속 네트워크, 오브젝트 스토리지는 함께 작동해야 하는 경우가 많습니다. 스토리지 시스템이 이를 따라가지 못하면, 기업은 GPU를 더 구매하더라도 컴퓨팅을 효과적인 훈련 효율로 전환하는 데 실패할 수 있습니다.

스케일드 인퍼런스(Scaled Inference)가 지속적인 스토리지 성장을 만드는 이유

추론(Inference)은 학습이 완료된 후의 저스토리지 단계가 아닙니다. 오히려 AI 애플리케이션이 프로덕션에 들어가면 스토리지 수요는 일회성 학습 데이터에서 지속적으로 실행되는 모델 가중치, 벡터 데이터베이스, 컨텍스트 캐시, 사용자 로그, 생성된 콘텐츠로 확장됩니다. 학습을 "모델을 제조하는 것"으로 생각할 수 있는 반면, 추론은 "장기적으로 모델을 운영하는 것"입니다. 사용자 수, 요청량, 컨텍스트 길이, 멀티모달 출력이 증가하는 한, 추론 측의 스토리지 수요는 계속 증가하는 경향이 있습니다.

첫 번째 동인은 모델 가중치와 버전 관리입니다. 모델이 라이브로 배포된 후, 기업은 보통 하나의 파일만 유지하지 않습니다. 기업은 베이스 모델, 파인튜닝된 모델, 카나리 버전, 롤백 버전, 그리고 여러 리전에 걸친 배포 복제본을 관리할 수 있습니다. 추론 서비스가 확장될 때, 새 인스턴스는 모델 가중치를 빠르게 로드해야 합니다. 서비스에 장애가 발생하면, 팀은 안정적인 버전으로 신속하게 롤백할 수 있어야 합니다. 이는 모델 리포지토리, 핫 스토리지, 그리고 버전 관리에 대한 수요를 증가시킵니다.

두 번째 동인은 RAG입니다. Google Cloud는 RAG를 기존의 정보 검색 시스템과 대규모 언어 모델을 결합하여 모델이 외부 지식 베이스와 데이터베이스를 활용할 수 있게 하는 프레임워크로 설명합니다. 기업 입장에서 이는 원본 문서, 텍스트 청크, 벡터 임베딩, 벡터 인덱스, 키워드 인덱스, 권한 정보, 그리고 원본 메타데이터가 모두 동시에 존재할 수 있음을 의미합니다. Google Cloud의 RAG 참조 아키텍처는 프로덕션급 RAG가 벡터 검색, 데이터베이스, GKE, Cloud SQL, 지식 그래프 및 기타 아키텍처를 결합할 수 있음을 보여줍니다.

Long context와 AI 에이전트는 스토리지 부담도 변화시킵니다. Long-context 추론은 더 많은 세션 상태와 캐시 관리를 필요로 합니다. 에이전트 작업은 또한 도구 호출 기록, 웹 검색 결과, 코드 실행 결과, 중간 추론 과정을 저장할 수 있습니다. 멀티모달 생성은 이미지, 오디오, 비디오, 편집본을 더욱 늘어나게 합니다. 일회성 텍스트 Q&A와 비교하면, 이러한 데이터 객체는 더 크고, 더 조각화되어 있으며, 검색과 추적이 필요할 가능성이 더 높습니다.

추론 단계의 스토리지 수요는 네 가지 경로를 통해 관찰할 수 있습니다:

• 사용자가 많아질수록 추론 로그와 대화 기록이 증가합니다.
• Context가 길어질수록 캐시와 상태 관리가 더 무거워집니다.
• RAG 애플리케이션은 벡터 데이터베이스와 원본 파일 복사본을 확장합니다.
• 멀티모달 생성은 더 많은 이미지, 오디오, 비디오 파일을 만들어냅니다.

이것이 AI 인프라가 "학습 센터"에서 "학습 + 추론 + 데이터 서비스"의 결합으로 전환되는 이유이기도 합니다. 추론은 분산형 스토리지 요구사항이 더 많습니다. 모델 로딩에는 대역폭이 필요하고, 벡터 검색에는 낮은 지연 시간과 높은 IOPS가 필요하며, 로그 스토리지에는 용량과 비용 관리가 필요하고, 컴플라이언스 감사에는 데이터 보존 정책이 요구됩니다. 추론은 학습만큼 짧은 기간에 급격하게 치솟지는 않을 수 있지만, 장기적이고 안정적이며 지속적으로 축적되는 용량 수요를 만들어낼 가능성이 더 높습니다.

요약: 확장된 추론(inference)은 AI 스토리지를 프로젝트 기반 수요에서 운영 수요로 전환시킵니다. 학습이 완료된 후에도 모델 가중치, 버전 복제본, RAG 문서, 벡터 인덱스, KV Cache, 사용자 로그, 생성된 콘텐츠는 계속 증가합니다. 추론 스토리지 수요를 평가할 때는 모델 크기만 봐서는 안 됩니다. 일일 활성 사용자 수, 요청 빈도, 컨텍스트 길이, RAG 사용 여부, 이미지나 비디오 생성 여부, 감사 기록 보관 필요 여부도 함께 고려해야 합니다. 학습은 고처리량 스토리지를 이끌고, 추론은 저지연, 고동시성, 장기 데이터 관리를 이끕니다. 이 둘이 결합되어 AI 데이터 센터의 스토리지 아키텍처를 형성합니다.

왜 콜드 데이터 아카이빙이 AI 인프라의 일부가 되는가

현재 사용되지 않는 AI 데이터라고 해서 반드시 삭제할 수 있는 것은 아닙니다. 과거 학습 데이터셋, 이전 모델, 추론 로그, 오래된 체크포인트, 원본 데이터는 재학습, 성능 비교, 모델 감사, 재해 복구 또는 컴플라이언스 보존을 위해 재사용될 수 있습니다. 콜드 데이터 아카이빙의 가치는 접근 빈도는 낮지만 여전히 가치 있는 데이터를 비용이 많이 드는 온라인 스토리지에서 더 저렴한 용량 계층으로 이동시켜, AI 인프라가 성능과 비용의 균형을 맞추도록 돕는 데 있습니다.

AI 콜드 데이터에는 일반적으로 다음이 포함됩니다:

• 원시 학습 데이터 및 과거 스냅샷.
• 현재 사용 중이 아닌 정제된 데이터셋.
• 이전 모델 버전 및 체크포인트.
• 과거 벡터 및 인덱스 버전.
• 장기 추론 로그 및 안전 기록.
• 종료된 프로젝트의 모델 자산.
• 감사 및 추적성에 사용되는 데이터 처리 기록.

기업들이 오래된 데이터를 단순히 삭제할 수 없는 데에는 네 가지 이유가 있습니다. 첫째, 새로운 모델이 과거 데이터를 재사용할 수 있습니다. 둘째, 모델 출력이 비정상적으로 나타날 때 팀이 학습 출처를 추적해야 할 수 있습니다. 셋째, 데이터 정제 방법이 변경될 때 오래된 데이터를 다시 처리해야 할 수 있습니다. 넷째, 비즈니스 계약, 업계 규칙, 현지 법규에서 특정 기록의 보존을 요구할 수 있습니다. 그러나 보존한다는 것이 모든 것을 영원히 보관한다는 의미는 아닙니다. 개인정보, 민감한 데이터, 국경 간 데이터 또는 규제 대상 산업과 관련된 경우, 데이터는 권한 범위, 목적 제한, 보존 기간에 따라 처리되어야 합니다.

클라우드 스토리지 티어링 역시 이러한 논리를 반영합니다. Google Cloud의 Archive 스토리지는 1년에 한 번 미만 액세스되는 데이터를 위해 설계되었으며, 일반적으로 더 높은 액세스 및 작업 비용과 최소 보존 기간 요건이 적용됩니다. Google Cloud의 Object Lifecycle Management는 객체의 나이, 버전 상태 및 기타 규칙을 기반으로 스토리지 클래스를 자동으로 변경하거나 객체를 삭제할 수도 있습니다. AI 팀의 경우, 이러한 유형의 수명 주기 관리를 통해 오래된 학습 데이터셋, 오래된 체크포인트, 그리고 과거 로그를 저빈도 액세스 티어로 점진적으로 이동시킬 수 있습니다.

AI 아카이빙 전략을 설계할 때는 여섯 가지 질문에 집중할 수 있습니다:

1. 이 데이터가 향후 재학습에 사용될 수 있습니까?
2. 복구가 몇 분, 몇 시간, 또는 며칠 기다릴 수 있습니까?
3. 여러 개의 복사본 또는 교차 리전 복제본이 필요합니까?
4. 데이터에 개인정보, 권한 부여 또는 데이터 주권이 관련됩니까?
5. 보관된 데이터를 읽을 때 높은 검색 비용이 발생합니까?
6. 데이터에 명확하게 정의된 보존 기간과 삭제 요구 사항이 있습니까?

콜드 데이터는 하드웨어 수요에도 영향을 미칩니다. 고성능 SSD는 핫 데이터와 웜 데이터에 적합하지만, 대규모 장기 아카이빙에는 일반적으로 더 저렴한 용량형 스토리지가 필요합니다. 엔터프라이즈 AI Factory 기획에서 NVIDIA는 계층형 스토리지를 통해 핫한 학습 데이터와 모델에는 NVMe를 사용하고, 오브젝트 스토리지로 콜드 아카이브와 과거 데이터를 지원할 수 있다고 언급합니다. AI 스토리지 성장의 상당 부분은 단 한 번의 학습 실행에서 비롯되는 것이 아니라, 수년간 축적된 데이터에서 비롯됩니다.

요약: 콜드 데이터 아카이빙은 AI 스토리지 수요를 단기 컴퓨팅 확장에서 장기 용량 사이클로 확장합니다. 완료된 학습 실행, 사용이 중단된 모델, 일시적으로 사용하지 않는 데이터셋이 곧 해당 자산에 가치가 없다는 의미는 아닙니다. 이러한 자산은 재학습, 감사, 롤백, 컴플라이언스, 재해 복구를 지원할 수 있습니다. 보다 합리적인 접근 방식은 핫, 웜, 콜드 계층을 구축하는 것입니다. 고성능 계층은 현재의 학습과 추론을 담당하고, 저비용 계층은 낮은 빈도로 접근되지만 중요한 데이터를 보존합니다. 이를 통해 모든 데이터를 비싼 SSD에 장기간 보관하는 것을 피하는 동시에, 필요할 때 귀중한 데이터를 복구할 수 없는 위험을 줄일 수 있습니다.

어떤 스토리지 기술이 수형인가, 그리고 수요 강도를 판단하는 방법

AI 컴퓨트 확장은 한 가지 유형의 저장 장치에만 이익이 되는 것이 아닙니다. 고성능 엔터프라이즈 SSD는 주로 학습, 체크포인팅, 모델 로딩, 벡터 검색에서의 속도 문제를 해결합니다. 대용량 SSD는 웜 데이터와 용량 중심의 플래시 계층을 처리할 수 있습니다. 니어라인 HDD와 오브젝트 스토리지는 대규모 데이터 레이크, 과거 데이터, 콜드 아카이브를 지원합니다. AI 스토리지 기회를 판단할 때는 GPU 수를 직접 SSD나 HDD 수요로 환산하기보다 데이터 라이프사이클을 살펴봐야 합니다.

각기 다른 저장 기술은 일반적으로 다음과 같은 역할을 담당합니다:

가치사슬 관점에서 AI 스토리지 수요는 엔터프라이즈 SSD, NAND, HDD, 컨트롤러, 스토리지 서버, 네트워킹 장비, 클라우드 스토리지 서비스로 유입될 수 있습니다. Western Digital의 100TB+ HDD 로드맵은 더 높은 용량과 낮은 전력 소비를 포함하여 AI 규모의 데이터를 위한 HDD 혁신을 조명합니다. Seagate가 의뢰한 설문조사에서도 AI 데이터 생성이 주도하는 가운데, 조사 대상 기업 다수가 2028년까지 클라우드 스토리지 수요가 크게 증가할 것으로 예상한다는 결과가 발표되었으며, 그 결과는 [AI 주도 데이터 생성](https://investors.seagate.에 게재되었습니다.com/news/news-details/2025/AI-Driven-Data-Creation-to-Spur-Next-Wave-Cloud-Storage-Growth-According-to-New-Survey-Commissioned-by-Seagate/default.aspx) 설문조사.

하지만 업계 내러티브에만 의존해서는 안 됩니다. AI 스토리지 수요의 강도는 최소 세 가지 수준에서 평가해야 합니다:

• 수요 계층: GPU가 실제로 가동 중인지, 그리고 학습 및 추론 워크로드가 성장하고 있는지 여부.
• 제품 계층: 새로운 데이터가 SSD, HDD, 오브젝트 스토리지 또는 클라우드 서비스로 유입되고 있는지 여부.
• 사이클 계층: 가격, 재고, 생산능력 확장 및 밸류에이션에 이미 기대치가 반영되어 있는지 여부.

컴퓨팅 단위당 저장 수요가 기술적 개선으로 감소할 수 있다는 점도 유의해야 합니다. 예를 들어, 중복 제거와 압축은 용량 사용을 줄일 수 있습니다. 모델 양자화는 배포 파일의 크기를 줄일 수 있습니다. 캐시 재사용은 반복적인 읽기를 줄일 수 있습니다. 더 나은 데이터 거버넌스는 무효 데이터를 줄일 수 있습니다. 클라우드 제공업체가 기존 자원의 활용률을 개선하면 새로운 구매가 지연될 수도 있습니다.

AI 스토리지 밸류체인 기업이나 관련 ETF를 추적하고 있다면, 미국 주식 정보를 활용하여 스토리지, 반도체, 클라우드 인프라 관련 종목을 확인할 수 있습니다. 거래 비용까지 고려한다면, 수수료, 플랫폼 수수료, 외부 대행 수수료, 거래 활동 수수료 등을 실제 수익률 계산에 포함해야 합니다. Biya는 미국 주식 거래에 대해 0 USD 커미션을 부과하며, 플랫폼 수수료, 외부 대행 수수료 및 기타 요금은 Biya 미국 주식 거래 수수료 및 주문 페이지 표시를 따릅니다. 서비스 이용 가능 여부는 사용자의 위치, 신원 인증 결과, 플랫폼 규정, 그리고 적용 법률 및 규정에 따라 달라집니다.

요약: AI 스토리지 투자 논리는 “GPU가 많아지면 SSD도 많아진다”는 직선적인 관계가 아닙니다. 학습(Training)에는 고성능 SSD와 병렬 파일 시스템이 필요하고, 추론(Inference)에는 저지연 검색, 캐시, 로그 시스템이 필요하며, 콜드 아카이빙에는 저비용 대용량 스토리지가 필요합니다. HDD, SSD, 오브젝트 스토리지, 캐시 계층은 서로를 완전히 대체하기보다는 함께 작동하는 경우가 더 많습니다. 산업 기회를 평가할 때는 실제 AI 워크로드, 데이터 증가, 고객 주문의 지속성, 재고 사이클, 평균 판매 가격, 자본 지출, 밸류에이션 수준을 동시에 주시해야 합니다. 산업의 장기적인 수요 성장이 모든 관련 주식이 동반 상승한다는 의미는 아닙니다.

AI 연산 능력과 스토리지 수요 간의 관계는 본질적으로 컴퓨팅 파워와 함께 데이터 시스템이 함께 업그레이드되는 것에 관한 것입니다. GPU, HBM, 첨단 패키징만 주시한다면, 데이터 로딩, 체크포인팅, 벡터 데이터베이스, 콜드 아카이빙, 클라우드 스토리지 비용과 같은 장기적 변수를 놓칠 수 있습니다. 투자자에게 보다 체계적인 접근 방식은 전체 가치사슬 안에서 AI 스토리지를 분석하는 것입니다. 즉, 상류의 NAND, HDD, 컨트롤러, 서버; 중류의 스토리지 시스템과 클라우드 인프라; 그리고 하류의 학습, 추론, 실제 기업 AI 활용을 분석하는 것입니다. 미국 시장 정보를 팔로우하기 위해 Biya를 활용할 수 있습니다.주식, 홍콩 주식 및 디지털 자산에 대한 정보를 다루면서, 기업 실적, 자본 지출, 고객 구조, 재고 변동 및 수수료 세부 사항을 결합하여 독립적인 판단을 내립니다. 공개 시장 정보, 거래 규칙 및 수수료 구조는 시장 이해를 위한 참고 자료일 뿐이며 투자 권유를 구성하지 않습니다.

FAQ

AI 훈련 데이터가 두 배가 되면 AI 스토리지 구매도 두 배가 될까요?

반드시 그렇지는 않습니다. 훈련 데이터의 증가는 스토리지 용량과 처리량(throughput) 수요를 늘리지만, 실제 구매는 중복 제거, 압축, 캐시 재사용, 데이터 형식, 모델 아키텍처, 스토리지 활용률 등에도 좌우됩니다. 기업들은 하드웨어를 추가하기 전에 데이터 파이프라인을 최적화할 수 있으므로, 데이터 증가를 장비 구매의 직접적인 일대일 지표로 간주해서는 안 됩니다.

기업의 RAG 도입이 벡터 데이터베이스 비용을 증가시키는 이유는 무엇인가요?

RAG는 벡터 데이터베이스 비용을 증가시킵니다. 기업은 일반적으로 원본 문서, 텍스트 청크, 벡터 임베딩, 인덱스, 권한 메타데이터 및 이전 버전을 저장해야 하기 때문입니다. 문서가 많을수록, 업데이트 빈도가 높을수록, 그리고 쿼리 동시성이 높을수록 저장, 인덱스 유지 보수 및 검색 리소스 비용이 더욱 두드러집니다. 구체적인 비용은 클라우드 서비스 또는 데이터베이스의 가격 정책에 따라 달라집니다.

장문 컨텍스트(long-context) AI 추론은 어떤 캐시 수요를 만들어내는가?

장문 컨텍스트(Long-context) AI 추론은 일반적으로 KV 캐시, 세션 상태, 검색 결과, 중간 컨텍스트 관리에 대한 수요를 증가시킵니다. 실제 증가 폭은 동시 사용자 수, 컨텍스트 길이, 캐시 유지 시간, 그리고 계층화(tiering) 전략에 따라 달라집니다. 일부 캐시는 GPU 메모리나 시스템 메모리에 저장되지만, 일부는 SSD나 분산 스토리지로 내려갈 수 있습니다.

AI 데이터 센터는 HDD를 완전히 SSD로 대체할까요?

단기적으로는 완전한 대체가 이루어지기 어렵습니다. SSD는 학습, 추론, 검색 및 핫 데이터(hot-data) 접근에 더 적합한 반면, HDD는 대규모 저빈도 데이터, 과거 데이터 및 콜드 아카이브에 더 적합합니다. AI 데이터 센터는 액세스 빈도, 지연 시간 요구 사항, 용량 규모 및 총 비용에 따라 저장 매체를 선택하는 계층화된 아키텍처를 더 일반적으로 사용합니다.

기업은 AI 학습 데이터를 얼마나 오래 보관해야 할까요?

AI 학습 데이터에는 보편적인 보존 기간이 없습니다. 기업은 재학습 가치, 감사 요건, 사용자 승인, 데이터 민감도, 계약상 의무 및 현지 규제 요구 사항을 기반으로 보존 기간을 정의해야 합니다. 개인 정보나 규제 대상 데이터가 관련된 경우 삭제, 익명화, 접근 제어 및 감사 추적(trace)도 필요합니다.

투자자는 AI 스토리지 수요가 지속 가능한지 어떻게 판단할 수 있을까요?

투자자는 주문 지속성, 클라우드 제공업체의 자본 지출, 엔터프라이즈 SSD 및 니어라인 HDD 출하량, 평균 판매 가격, 재고 수준, 고객 집중도, 그리고 실제 AI 애플리케이션 사용량을 통해 지속 가능성을 평가할 수 있습니다. 단 한 분기의 가격 인상이나 단기적인 품목 부족은 일시적인 공급 부족만을 나타낼 수 있습니다. 장기적인 수요는 훈련 및 추론 워크로드가 계속해서 확장되는지 여부에 달려 있습니다.