
AI 연산 성장은 단순히 더 많은 GPU, AI 가속기, 서버를 의미하는 것이 아닙니다. 동시에 스토리지 수요도 함께 확대됩니다. 학습(Training)은 방대한 데이터셋의 지속적인 읽기, 체크포인트 쓰기, 모델 버전 보존을 요구합니다. 추론(Inference)은 모델 가중치 로딩, KV 캐시 유지, 벡터 데이터베이스 접근, 사용자 컨텍스트 저장이 필요합니다. 데이터 보존에는 원본 데이터셋, 정제된 데이터, 로그, 생성된 콘텐츠, 감사 기록, 백업이 포함됩니다. AI 인프라 투자를 평가할 때 GPU 출하량만 봐서는 안 됩니다. HBM, DRAM, 엔터프라이즈 SSD, 니어라인 HDD, 오브젝트 스토리지, 데이터 플랫폼이 실제 워크로드를 지원할 수 있는지도 함께 평가해야 합니다.

AI 연산 성장은 스토리지 수요를 견인합니다. AI 시스템은 연산만으로 이루어지는 것이 아니기 때문입니다. AI 시스템은 데이터를 지속적으로 이동시키고, 임시 저장하고, 기록하고, 보존해야 합니다. GPU가 많아질수록 데이터 파이프라인은 학습 속도 저하를 피해야 하고, 모델이 커질수록 더 많은 가중치, 컨텍스트, 중간 상태를 처리해야 하며, AI 애플리케이션이 널리 채택될수록 더 많은 추론 로그, 사용자 상호작용, 생성 콘텐츠를 저장해야 합니다. 따라서 AI 인프라는 단순한 “GPU 확장”이 아니라 연산, 메모리, 네트워킹, 스토리지의 통합적인 확장입니다.
완전한 AI 시스템은 일반적으로 데이터 수집, 데이터 정제, 훈련, 미세 조정, 평가, 배포, 추론, 로깅 및 데이터 보존을 포함합니다. 훈련 중에는 데이터를 데이터 레이크, 오브젝트 스토리지, SSD 또는 병렬 파일 시스템에서 GPU로 지속적으로 이동해야 합니다. 추론 중에는 모델 가중치를 빠르게 읽고, 컨텍스트를 처리하며, 검색 시스템에 접근해야 합니다. 비즈니스 애플리케이션이 라이브로 전환된 후에는 사용자 요청, 모델 출력, 피드백 데이터 및 감사 기록도 저장해야 합니다. AI 훈련 및 추론을 위한 스토리지 확장, NVIDIA는 용량, 성능, 네트워킹 하드웨어, 데이터 전송 프로토콜을 GPU가 배포된 후에야 추가하는 것이 아니라 함께 계획해야 한다고 강조합니다.
연산, 메모리, 저장 장치 간의 관계는 세 가지 계층으로 이해할 수 있습니다:
| 계층 | 일반적인 구성 요소 | 주요 기능 | 흔한 병목 지점 |
|---|---|---|---|
| 컴퓨트 | GPU, TPU, AI 가속기, ASIC | 행렬 연산 및 모델 추론 실행 | 컴퓨팅 파워 부족, 높은 전력 소비 |
| 메모리 | HBM, GDDR, DDR5, LPDDR, CXL 메모리 | 모델 가중치, 중간 상태, 캐시 저장 | 용량 또는 대역폭 부족 |
| 스토리지 | NVMe SSD, 엔터프라이즈 SSD, 오브젝트 스토리지, 니어라인 HDD | 학습 데이터, 체크포인트, 로그, 아카이브 저장 | 처리량 부족, 높은 지연 시간, 높은 비용 |
GPU는 빠르지만, 그렇다고 해서 전체 시스템이 빠른 것은 아닙니다. 학습 데이터가 제시간에 GPU에 도달하지 못하면 GPU는 대기합니다. 체크포인트 쓰기가 너무 느리면 학습이 중단됩니다. 추론 컨텍스트가 올바른 스토리지 계층에 유지되지 못하면 사용자 대기 시간이 증가합니다. AI 클러스터가 커질수록 한 구성 요소의 병목이 더 쉽게 증폭됩니다. 과거에는 많은 기업이 스토리지를 비용 센터로 취급했습니다. 그러나 AI 워크로드에서 스토리지는 GPU 활용도, 추론 처리량, 데이터 거버넌스, 장기 비용에 영향을 미치는 인프라가 되었습니다.
AI 연산 성장이 스토리지 수요를 견인하는 이유는 AI 워크로드가 "데이터의 연산 시스템 유입"과 "연산 결과의 장기 보존" 모두에 대해 엄격한 요구사항을 만들어내기 때문입니다. 훈련(Training)은 높은 처리량의 읽기와 지속적인 쓰기를 필요로 하며, 추론(Inference)은 낮은 지연 시간의 접근과 컨텍스트 관리를 요구합니다. 데이터 보존은 용량, 비용 통제, 거버넌스 역량을 필요로 합니다. 스토리지를 간과한 채 GPU만 확장하면 값비싼 연산 자원이 데이터를 기다리며 놀거나, 높은 동시성 환경에서 추론 비용이 빠르게 상승할 수 있습니다. AI 인프라가 건강한지 평가하려면 GPU 수만 볼 것이 아니라 HBM, DRAM, SSD, HDD, 네트워킹, 데이터 플랫폼이 연산 성장에 맞출 수 있는지도 함께 살펴봐야 합니다.

AI 학습에는 대량의 저장 공간이 필요합니다. 모델 학습은 데이터를 한 번만 읽는 것이 아니기 때문입니다. 데이터를 반복적으로 읽고, 셔플하고, 배치로 나누고, 전처리하며, 결과를 기록합니다. 데이터셋이 클수록 학습 에포크가 많아지고 체크포인트가 빈번해질수록 저장 처리량, 동시 읽기·쓰기, 네트워크 대역폭이 더욱 중요해집니다. 학습에서 핵심적인 질문은 “데이터를 저장할 수 있는가”가 아니라 “저장 시스템이 데이터를 지속적으로, 안정적으로, 높은 처리량으로 GPU에 전달할 수 있는가”입니다.
훈련 데이터는 일반적으로 다양한 형태로 존재합니다: 원시 텍스트, 이미지, 비디오, 코드, 음성, 센서 데이터, 기업 문서 등이 그 예입니다. 정리 과정을 거치면 정제된 데이터, 토큰화된 데이터, 특징 데이터, 훈련 배치가 될 수 있습니다. Dell은 AI 모델 훈련이 스토리지와 상호 작용하는 방식을 설명할 때 이 과정을 세 가지 핵심 단계로 나눕니다: 훈련 데이터 로딩, 데이터 전처리, GPU에서 모델 훈련. 각 단계는 스토리지에 접근하지만 접근 패턴은 서로 다릅니다.
자주 과소평가되는 또 다른 학습 단계의 스토리지 수요는 체크포인팅입니다. 대규모 모델 학습은 시간이 오래 걸리고 비용이 많이 들기 때문에 학습이 완료된 후에만 결과를 저장할 수는 없습니다. 시스템은 일반적으로 장애 복구, 실험 비교, 모델 버전 관리 및 지속적인 학습을 위해 모델 가중치, 옵티마이저 상태, 복구 지점을 주기적으로 기록해야 합니다. SNIA의 AI 스토리지 자료는 학습이 데이터 배치를 사용하여 모델 가중치를 업데이트하고 복구를 위해 checkpoint 데이터를 주기적으로 기록한다고 언급합니다. 체크포인트가 클수록 그리고 자주 기록될수록 SSD, 병렬 파일 시스템, 네트워크에 가해지는 부담이 커집니다.
훈련에서의 스토리지 수요는 네 가지 범주로 나눌 수 있습니다:
| 학습 단계 | 스토리지 요구 사항 | 핵심 지표 | 일반적인 저장 매체 |
|---|---|---|---|
| 데이터 읽기 | 학습 데이터셋과 샘플 배치를 반복해서 읽음 | 처리량, 동시 읽기, 데이터 로딩 속도 | NVMe SSD, 오브젝트 스토리지, 병렬 파일 시스템 |
| 데이터 전처리 | 정리, 분할, 토큰화, 증강 | 혼합 읽기/쓰기 성능, CPU/GPU 협업 | SSD, 캐시 계층, 데이터 레이크 |
| 체크포인트 저장 | 모델 가중치와 복구 지점 저장 | 쓰기 속도, 신뢰성, 복구 시간 | 엔터프라이즈 SSD, 병렬 파일 시스템 |
| 실험 보존 | 버전, 파라미터, 로그, 평가 결과 저장 | 용량, 추적 가능성, 비용 | 오브젝트 스토리지, HDD, 아카이브 스토리지 |
데이터 이동 병목 현상을 줄이기 위해 AI 학습은 스토리지 아키텍처 업그레이드도 견인하고 있습니다. NVIDIA의 GPUDirect Storage는 로컬 또는 원격 스토리지와 GPU 메모리 간에 직접 데이터 경로를 생성하여 데이터 이동에 대한 CPU 스테이징의 영향을 줄입니다. 이는 더 넓은 트렌드를 반영합니다. GPU가 빨라질수록 전통적인 "스토리지—CPU—메모리—GPU" 데이터 경로가 병목이 될 수 있으며, 학습 시스템은 데이터가 보다 직접적이고 효율적으로 가속기에 들어올 것을 요구합니다.
AI 훈련은 훈련 데이터셋이 점점 커지고 있을 뿐만 아니라, 훈련 과정에서 데이터를 지속적으로 읽고, 체크포인트를 기록하고, 모델 가중치를 저장하며, 실험 버전을 보존하기 때문에 스토리지 수요를 촉진합니다. 컴퓨팅 클러스터가 클수록 GPU가 데이터 로딩으로 인해 느려지는 것은 더욱 용납될 수 없습니다. 훈련 실행 시간이 길어질수록 체크포인팅과 버전 관리가 더욱 중요해집니다. 엔터프라이즈 SSD, 병렬 파일 시스템, 고속 네트워크, 오브젝트 스토리지, 데이터 레이크가 모두 훈련 파이프라인의 일부가 됩니다. 훈련 단계에서 가장 중요한 질문은 “충분한 용량이 있는가”가 아니라 “스토리지 시스템이 GPU의 대기 시간을 줄이고, 훈련 중단을 감소시키며, 실험의 재현성을 보장할 수 있는가”입니다.

AI 추론이 스토리지와 메모리 수요를 견인하는 이유는 추론이 가벼운 작업이 아니기 때문입니다. 모든 사용자 요청은 모델 가중치를 로드하고, 입력 컨텍스트를 처리하고, 출력을 생성하고, 중간 상태를 유지해야 합니다. 사용자가 많아질수록, 컨텍스트가 길어질수록, 모델이 커질수록, 동시성이 높아질수록 HBM, DRAM, SSD, 벡터 데이터베이스, 캐싱 시스템에 가해지는 부담이 커집니다. 훈련은 모델을 구축하는 단계이고, 추론은 AI 애플리케이션이 대규모로 운영된 후에 이어지는 지속적인 워크로드입니다.
IBM은 AI 추론을 훈련된 AI 모델을 사용하여 새로운 데이터와 요청을 처리하는 과정으로 설명합니다. “질문을 입력하면 답변을 받는다”는 단순한 과정처럼 보일 수 있지만, 내부적으로는 시스템이 프롬프트 입력, 프리필(prefill), 디코드(decode), 토큰 생성, 응답 출력을 거칩니다. 모델 가중치를 로드해야 하고, 입력 컨텍스트를 처리해야 하며, 출력 토큰을 단계별로 생성해야 합니다. 사용자 수가 늘어나면 추론은 단일 연산 문제에서 지속적인 서비스 문제로 전환됩니다.
추론(inference)에서 가장 중요한 스토리지 변수 중 하나가 KV 캐시입니다. KV 캐시는 Transformer 모델이 컨텍스트를 처리할 때 생성되는 키/값 중간 상태를 저장합니다. 이는 반복 연산을 줄여주지만, 동시에 대량의 메모리를 소비합니다. 대규모 LLM 추론에 관한 논의에서 NVIDIA는 FP16으로 Llama 3 70B와 Llama 4 Scout 109B를 로드하려면 각각 약 140GB와 218GB의 메모리가 필요하며, 128k 토큰 컨텍스트를 사용하는 단일 사용자가 Llama 3 70B의 KV 캐시로 약 40GB를 소비할 수 있다고 언급했습니다. 이러한 메모리 요구량은 사용자 수에 비례하여 증가합니다.
KV 캐시는 추론을 "연산 문제"에서 "메모리 및 스토리지 계층화 문제"로 바꿉니다. 이상적으로는 가장 자주 사용되는 캐시가 HBM에 유지되어야 합니다. HBM이 부족할 경우, 캐시의 일부를 CPU DRAM, CXL 메모리, NVMe SSD 또는 원격 스토리지에 배치할 수 있습니다. NVIDIA Dynamo는 KV Cache 오프로딩이 더 긴 컨텍스트를 지원하고, GPU 메모리 사용량을 줄이며, 동시성을 개선하고, 반복 연산을 줄일 수 있다고 설명합니다. 이러한 기술은 추론 측의 병목이 GPU 연산뿐만 아니라 캐시 용량, 접근 지연 시간, 비용 구조와도 관련이 있음을 보여줍니다.
추론은 RAG와 AI 에이전트에 의해 더욱 증폭됩니다. RAG는 기업 문서, 벡터 데이터베이스, 검색 인덱스, 외부 지식 베이스에 대한 접근이 필요합니다. AI 에이전트 역시 계획, 도구 호출 결과, 작업 상태, 이력 컨텍스트를 기록합니다. 추론 서비스가 실제 비즈니스 워크플로우에 가까워질수록 접근하는 데이터는 더욱 분산되며, 스토리지 시스템은 낮은 지연 시간, 높은 동시성, 권한 제어, 지속적인 업데이트를 동시에 지원해야 합니다.
| 추론 요구 사항 | 일반적인 시나리오 | 주요 부하 | 관련 스토리지 계층 |
|---|---|---|---|
| 모델 가중치 로딩 | 대규모 모델 배포 및 탄력적 확장 | 용량, 읽기 속도 | HBM, DRAM, SSD |
| KV 캐시 | 긴 컨텍스트, 다중 턴 대화, 높은 동시성 | HBM 용량, 캐시 적중률 | HBM, DRAM, CXL, NVMe SSD |
| RAG 검색 | 기업 지식 베이스, 고객 서비스, 검색 증강 | 낮은 지연 시간, 인덱스 업데이트 | 벡터 데이터베이스, SSD, 오브젝트 스토리지 |
| 에이전트 상태 | 도구 호출, 작업 계획, 컨텍스트 메모리 | 상태 관리, 영속성 | 데이터베이스, 오브젝트 스토리지, 로깅 시스템 |
| 사용자 로그 | 품질 평가, 리스크 관리, 재학습 | 쓰기, 보존, 거버넌스 | 오브젝트 스토리지, HDD, 아카이브 스토리지 |
추론은 학습이 완료된 후 스토리지 수요가 감소한다는 의미가 아닙니다. 오히려 AI 애플리케이션이 대규모 사용자 서비스에 진입하면 모델 가중치, KV 캐시, 긴 컨텍스트, 다중 턴 대화, RAG 검색, 에이전트 상태가 HBM, DRAM, SSD 및 데이터 플랫폼 자원을 지속적으로 소비합니다. 학습은 높은 처리량과 대규모 쓰기 쪽으로 기울어져 있는 반면, 추론은 낮은 지연 시간, 높은 동시성, 컨텍스트 관리 쪽으로 기울어져 있습니다. AI 애플리케이션이 더 널리 보급됨에 따라 추론 측 스토리지 수요는 계속 증가할 것으로 보이며, 특히 긴 컨텍스트, 기업 지식 베이스, 멀티 에이전트 워크플로우가 더 보편화됨에 따라 그러합니다.
데이터 보존은 AI 스토리지 수요에서 가장 과소평가되는 부분 중 하나입니다. AI 시스템은 기존 데이터를 소비할 뿐만 아니라 지속적으로 새로운 데이터를 생성하기 때문입니다. 학습은 체크포인트, 모델 버전, 평가 결과를 생성합니다. 추론은 사용자 요청, 모델 출력, 피드백 데이터, 로그를 생성합니다. 기업 배포에는 감사, 백업, 권한 관리, 컴플라이언스 보존도 필요합니다. 컴퓨팅 자원이 많아지고 AI가 실행되는 빈도가 높아질수록 장기간 보존해야 하는 데이터의 양도 커집니다.
AI 데이터 라이프사이클은 일반적으로 원시 데이터, 정제 데이터, 학습 데이터, 모델 가중치, 체크포인트, 추론 로그, 생성 콘텐츠, 감사 기록 및 백업을 포함합니다. 학습 데이터 보존은 주로 모델 학습, 재현성, 버전 관리 및 재학습을 지원합니다. 추론 데이터 보존은 주로 사용자 경험 최적화, 품질 평가, 보안 감사 및 비즈니스 분석을 지원합니다. 두 유형의 데이터 모두 저장이 필요하지만, 액세스 빈도, 가치 밀도 및 규정 준수 요구 사항이 서로 다릅니다.
AI 스토리지를 설명할 때 IBM은 AI 스토리지가 대규모 데이터, 고성능, 낮은 지연 시간, 그리고 통제된 액세스의 균형을 맞추어야 한다고 강조합니다. 이는 AI 데이터를 모두 고속 SSD에 배치해서도 안 되고, 모두 저가 HDD에 배치해서도 안 되기 때문에 중요합니다. 서로 다른 데이터는 액세스 빈도, 지연 시간 요구 사항, 비용, 그리고 거버넌스 요구 사항에 따라 계층화되어야 합니다.
| 데이터 유형 | 접근 빈도 | 주요 용도 | 적합한 스토리지 계층 |
|---|---|---|---|
| 핫 데이터 | 매우 높음 | 현재 학습 배치, 온라인 추론 컨텍스트, 실시간 인덱스 | HBM, DRAM, NVMe SSD |
| 웜 데이터 | 중간 | 최근 체크포인트, 자주 사용되는 코퍼스, 벡터 인덱스 | 엔터프라이즈 SSD, 오브젝트 스토리지 |
| 콜드 데이터 | 낮음 | 과거 코퍼스, 아카이브된 로그, 백업, 저빈도 콘텐츠 | 니어라인 HDD, 오브젝트 스토리지, 아카이브 |
| 거버넌스 데이터 | 필요 시 접근 | 감사, 추적성, 권한, 컴플라이언스 기록 | 오브젝트 스토리지, 불변 스냅샷, 백업 시스템 |
기업들은 AI 데이터를 단순히 이후 더 많은 모델을 학습시키기 위해서만 저장하는 것이 아니라, 결과 재현, 문제 진단, 데이터 보호, 그리고 거버넌스 요구 사항 충족을 위해서도 저장합니다. Dell의 AI 워크로드 사이버 복원력 관련 콘텐츠에서는 학습 및 추론 데이터셋이 여러 스토리지 시스템에 분산되어 있을 수 있고 AI 수명 주기 전반에 걸쳐 동적으로 변화하기 때문에 AI 데이터셋 보호가 무결성과 가용성 측면에서 중요하다고 언급합니다. 기업 입장에서는 모델 버전, 학습 샘플 소스, 또는 추론 로그를 잃어버리면 문제 진단, 컴플라이언스 감사, 비즈니스 연속성에 영향을 미칠 수 있습니다.
데이터 보존은 비용 제약이라는 문제도 함께 가져옵니다. 핫 데이터는 낮은 지연 시간과 높은 성능을 요구하지만, 모든 데이터가 고가의 SSD 용량을 장기간 차지할 가치가 있는 것은 아닙니다. 과거 로그, 백업, 영상 코퍼스, 저빈도 콘텐츠는 더 저렴한 용량 계층에 저장하는 것이 적합합니다. Western Digital은 2026 회계연도 3분기 실적 발표에서 학습과 추론부터 에이전틱 AI 및 물리적 AI에 이르기까지 거의 모든 것이 지속적이고 비용 효율적으로 보존해야 하는 데이터를 생성한다고 언급하며, HDD가 AI 데이터 보존 체계에서 중요한 용량 기반이 된다고 밝혔습니다.
데이터 보존은 AI 스토리지 수요의 세 번째 주요 동력이며, "GPU 내러티브"에 의해 가장 쉽게 가려지는 부분입니다. 학습과 추론은 지속적으로 데이터를 생성합니다. 기업은 또한 모델 버전, 체크포인트, 로그, 생성된 콘텐츠, 감사 기록, 백업을 보존해야 합니다. 데이터마다 가치, 접근 빈도, 비용 제약이 다르기 때문에, AI 스토리지는 계층화된 아키텍처로 이동하고 있습니다: 고성능 SSD는 핫 데이터를 처리하고, 오브젝트 스토리지와 엔터프라이즈 SSD는 웜 데이터를 지원하며, 니어라인 HDD와 아카이브 시스템은 대용량 장기 보존을 제공합니다. 보안과 거버넌스는 이 데이터를 신뢰할 수 있게 재사용할 수 있는지를 결정합니다.
AI 컴퓨팅 성장은 한 종류의 스토리지 하드웨어만 움직이는 것이 아닙니다. 스토리지 계층 전체를 움직입니다. HBM과 DRAM은 GPU에 가장 가까운 대역폭 및 지연 시간 문제를 해결합니다. 엔터프라이즈 SSD는 학습 처리량, 체크포인트, RAG 및 추론 캐싱을 지원합니다. HDD와 오브젝트 스토리지는 대용량, 저비용, 장기 보관을 제공합니다. 서로 다른 스토리지 하드웨어는 AI 워크로드의 서로 다른 부분으로부터 수혜를 받으며, 관련 기업과 주식을 동일한 유형의 AI 수요로 취급해서는 안 됩니다.
HBM과 DRAM은 GPU에 가장 가까운 최고 가치 저장 계층입니다. 대규모 모델 학습에는 대규모 행렬 연산을 지원하기 위한 고대역폭 메모리가 필요하며, 추론 서비스 역시 모델 가중치, 활성화 값, 캐시에 대한 효율적인 접근이 필요합니다. Micron은 자사의 AI 메모리 및 스토리지 포트폴리오가 HBM, SSD, LPDDR, 데이터 센터, 엣지 AI 시나리오를 포괄한다고 밝혔으며, 이는 AI 주도 스토리지 수요가 단일 제품에 국한되지 않음을 보여줍니다. COMPUTEX 2026에서 Micron은 HBM4 36GB 12H는 특정 조건에서 LLM 추론 처리량을 향상시킬 수 있으며, 이는 고대역폭 메모리와 토큰 생성 효율 사이의 직접적인 연관성을 보여줍니다.
엔터프라이즈 SSD는 GPU, 데이터 파이프라인, 추론 서비스 사이에 자리하고 있습니다. 학습에는 빠른 데이터 읽기와 체크포인트 쓰기가 필요합니다. 추론에는 벡터 데이터베이스, RAG 데이터, 모델 파일, KV 캐시 계층화에 대한 접근이 필요합니다. 데이터 엔지니어링은 지속적으로 증가하는 데이터셋을 처리해야 합니다. NVMe SSD, PCIe Gen5/Gen6 SSD, QLC 엔터프라이즈 SSD, NVMe-oF, GPUDirect Storage는 모두 더 빠르고, 더 안정적이며, GPU에 더 가까워진다는 목표를 중심으로 발전하고 있습니다. Micron의 AI 데이터 센터에 대한 설명 역시 메모리 및 스토리지 솔루션의 적용 분야로 AI 학습과 추론을 모두 포함하고 있습니다.
HDD와 오브젝트 스토리지는 보다 용량의 기반이라고 할 수 있습니다. AI 학습 데이터, 비디오 코퍼스, 추론 로그, 백업, 과거 버전들이 항상 밀리초 수준의 접근 속도를 요구하는 것은 아니지만, 저렴한 비용으로 관리 가능한 방식으로 장기간 저장할 필요는 있습니다. 시게이트(Seagate)는 2026 회계연도 3분기 실적으로 31억 1,100만 달러의 매출을 보고했으며, nearline HDD와 데이터 센터 수요의 지원을 반영하는 비GAAP 기준 총마진 47.0%를 공시했습니다.
| 스토리지 계층 | 주요 기능 | AI 워크로드 | 도입 효과 논리 |
|---|---|---|---|
| HBM | GPU에 근접한 높은 대역폭과 낮은 지연 시간 | 학습, 추론, 긴 컨텍스트 | 더 큰 모델과 더 많은 토큰 생성 |
| DDR5/DRAM | CPU 측 메모리, 캐시, 시스템 데이터 | 추론 서비스, 데이터 처리 | 더 많은 동시성과 컨텍스트 관리 |
| 엔터프라이즈 SSD | 높은 처리량, 낮은 지연 시간, 무작위 읽기/쓰기 | 학습 데이터, 체크포인트, RAG, KV 오프로드 | 데이터 파이프라인과 캐시에 더 큰 부담 |
| 오브젝트 스토리지 | 탄력적 용량, 데이터 레이크, 거버넌스 | 원시 코퍼스, 정제된 데이터, 로그 | 더 긴 AI 데이터 수명 주기 |
| 니어라인 HDD | 저비용 용량과 장기 보관 | 백업, 아카이브, 과거 학습 데이터 | 더 오래 지속되는 AI 데이터 보존 |
AI 컴퓨팅 성장은 단일 하드웨어가 아닌 전체 스토리지 계층 구조의 성장을 이끕니다. HBM과 DRAM은 GPU에 가장 가까운 대역폭 문제를 해결합니다. 엔터프라이즈 SSD는 학습 처리량, 체크포인트, RAG, 추론 캐시를 지원합니다. 오브젝트 스토리지와 HDD는 대규모 데이터 보관 문제를 해결합니다. AI 스토리지 공급망을 분석할 때는 "학습, 추론, 보관"을 "메모리, SSD, HDD, 데이터 플랫폼"에 매핑해야 합니다. 서로 다른 기업, 제품, 주식이 공급망의 서로 다른 부분에서 이점을 얻기 때문에, 모든 스토리지 수요를 동일한 AI 테마로 취급해서는 안 됩니다.
AI 스토리지 수요가 실제 성장인지 판단하려면 AI 테마가 뜨거운지, GPU 출하량이 높은지만 봐서는 안 됩니다. 학습, 추론, 데이터 보관 워크로드가 함께 성장하고 있는지를 확인해야 합니다. 학습 데이터셋 크기, 추론 토큰 volume, 동시 사용자 수, 컨텍스트 길이, RAG 호출, 로그 보관 기간, 클라우드 자본 지출이 모두 증가하고 있다면 스토리지 수요는 실제일 가능성이 높습니다. 반면 성장이 유통망 재고 보충이나 단기적인 물량 확보에 불과하다면 가격 변동은 더 빨리 역전될 수 있습니다.
먼저 워크로드를 살펴보겠습니다. 학습 측면에서는 데이터셋 크기, GPU 활용률, 체크포인트 빈도, 데이터 읽기 처리량을 살펴봐야 합니다. 추론 측면에서는 초당 토큰 수, TTFT, KV 캐시, 배치 크기, 동시성을 살펴봐야 합니다. 데이터 보존 측면에서는 데이터 증가, 로그 보존 기간, 백업 전략, 거버넌스 요구 사항을 살펴봐야 합니다. NVIDIA의 긴 컨텍스트 추론 최적화 노트에서는 KV 캐시가 커질수록 캐시 적중률, 지연 시간, HBM 사용량이 모두 영향을 받는다고 지적하며, 이는 실제 추론 워크로드가 메모리 및 스토리지 수요에 직접적인 변화를 가져온다는 것을 보여줍니다.
둘째, 조달과 가격이 서로를 뒷받침하는지 확인해야 합니다. 실제 수요는 보통 기업용 SSD 주문, 니어라인 HDD 출하량, HBM 및 DRAM 가격, 공급업체 수주 잔량, 장기 계약, 클라우드 자본 지출에 나타납니다. 단 한 분기의 가격 상승만 있고 재고도 빠르게 늘어난다면 재고 보충일 수 있습니다. 워크로드 성장, 장기 조달, 제품 업그레이드가 모두 함께 나타난다면 실제 수요의 신뢰도는 더 높습니다.
셋째, 비용 제약 조건을 살펴보십시오. AI 스토리지 수요는 무한하지 않습니다. 기업은 성능, 비용, 전력 소비, 규정 준수, 관리 용이성 사이에서 선택해야 합니다. KV 캐시 압축, 계층형 스토리지, 핫/콜드 데이터 분리, 모델 양자화, 데이터 중복 제거, 선택적 보존은 모두 비용을 통제하는 방법입니다. NVIDIA Research의 KV 캐시 압축에 대한 논의는 압축 방식이 긴 컨텍스트 추론에서 메모리 부담을 완화할 수 있음을 보여주지만, 실제 배포에서는 여전히 프로덕션 인프라의 과제에 직면해 있습니다.
| 평가 차원 | 실제 수요 신호 | 단기 변동성 신호 |
|---|---|---|
| 학습 | 더 큰 데이터셋, 더 높은 GPU 활용률, 더 많은 체크포인트 | 일회성 프로젝트 구매 후 수요 약화 |
| 추론 | 더 많은 토큰, 더 높은 동시성, 더 긴 컨텍스트 | 장기 서비스 없는 단기 테스트 트래픽 |
| 데이터 보존 | 더 많은 로그, 백업, 감사 및 거버넌스 요구 | 일시적인 데이터 축적 후 신속한 정리 |
| 조달 | 장기 계약, 지속적인 주문, 제품 업그레이드 | 채널 재입고, 중복 주문 |
| 가격 | 가시적인 주문을 동반한 고급 제품의 공급 부족 | 재고가 회복되는 동안 가격이 지나치게 빠르게 상승 |
| 비용 | 계층형 스토리지와 최적화 기술의 동반 발전 | 예산 압박으로 조달 지연 |
AI 스토리지 관련 주식이나 ETF를 추적한다면 실제 수익률 평가에 거래 비용도 포함해야 합니다. 미국 주식 거래 비용에는 수수료뿐만 아니라 플랫폼 수수료, 외부 대행 수수료, 거래 활동 수수료, 주문 체결 차액, 결제 관련 비용 등이 포함될 수 있습니다. 미국 주식 거래 수수료를 예로 들면, Biya는 미국 주식 거래 시 $0 커미션을 제공하며, 플랫폼 수수료, 외부 대행 수수료 및 기타 비용은 수수료 센터와 주문 페이지에 따릅니다. 관련 서비스 이용 가능 여부는 사용자의 위치, 신원 인증 결과, 플랫폼 규칙 및 적용 법률과 규정에 따라 달라집니다.거래 전에 투자자는 여전히 주문 페이지, 계좌 명세서 및 현지 규제 요건을 검토해야 합니다.
AI 스토리지 수요를 판단하려면 워크로드, 조달, 가격, 재고, 비용이 서로를 확인해 주는지를 봐야 합니다. 실질적인 성장은 학습 데이터, 추론 토큰, 긴 컨텍스트, RAG 호출, 로그 보관, 엔터프라이즈 SSD, 니어라인 HDD, 데이터센터 자본 지출에서 계속 나타날 것입니다. 단기 재고 변동성은 가격이 먼저 상승하고, 유통망이 재고를 다시 쌓고, 재고가 회복된 후 주문 둔화로 이어지는 형태로 나타날 수 있습니다. AI 스토리지 수요의 장기적인 방향이 중요하지만, 산업 및 투자 판단은 시점에 더 크게 좌우됩니다. 즉, 어떤 수요가 이미 생산 단계에 들어섰는지, 어떤 수요가 아직 파일럿 프로젝트 단계에 있는지, 그리고 어떤 수요가 이미 가격과 밸류에이션에 반영되었는지가 핵심입니다.
AI 인프라, 스토리지 칩, 엔터프라이즈 SSD, HDD, 반도체 ETF 및 관련 미국·홍콩 주식을 지속적으로 팔로우한다면, Biya를 사용하여 멀티에셋 시세, 거래 기록 및 계좌 활동을 추적할 수 있습니다. AI 컴퓨팅 및 스토리지 수요를 판단하는 것은 일회성 결론이 아닙니다. 학습, 추론, 데이터 보존, 클라우드 자본 지출, 엔터프라이즈 주문은 모두 계속 변화하고 있습니다. 또한 미국 주식 정보를 관련 기업 및 산업 변화에 대한 자체 모니터링과 결합하는 동시에, 소재지, 신원 인증 결과, 플랫폼 규칙 및 해당 법률과 규정을 기준으로 서비스 이용 가능 여부를 확인할 수 있습니다.공개 시장 정보 및 수수료 구조는 참고용이며 투자 조언을 구성하지 않습니다. 거래를 하기 전에 투자자는 주문 유형, 수수료 구조, 변동성 위험 및 자신의 위험 허용도를 충분히 이해해야 합니다.
AI 컴퓨팅 성장이 스토리지 수요를 증가시키는 이유는 학습, 추론, 데이터 보존이 모두 시간에 걸쳐 데이터를 읽고, 임시 저장하고, 쓰고, 보존하는 작업에 의존하기 때문입니다. GPU 용량이 증가한 후 데이터가 제때 컴퓨팅 시스템에 들어가지 못하면 GPU 활용률이 저하됩니다. 따라서 스토리지는 AI 인프라의 일부입니다.
AI 학습은 높은 처리량의 읽기, 체크포인트 쓰기, 분산 데이터 파이프라인을 중시합니다. AI 추론은 모델 가중치 로딩, KV 캐시, 낮은 지연 시간 액세스, 높은 동시성 컨텍스트 관리를 중시합니다. 두 경우 모두 스토리지가 필요하지만 병목 지표가 서로 다릅니다.
KV 캐시는 모델이 컨텍스트를 처리할 때 생성되는 중간 상태를 저장합니다. 긴 컨텍스트, 다중 턴 대화, 높은 동시 접속 사용자는 모두 KV 캐시를 증가시킵니다. HBM이 부족할 경우, 시스템은 DRAM, CXL 메모리 또는 SSD를 계층화된 캐시 레이어로 사용할 수 있습니다.
AI 데이터 보존은 고속 SSD에만 의존할 수 없는데, 그 이유는 모든 데이터가 저지연 액세스를 필요로 하지 않기 때문입니다. 핫(hot) 학습 데이터와 온라인 추론은 고속 스토리지가 필요한 반면, 과거 코퍼스, 로그, 백업 및 아카이브는 오브젝트 스토리지와 니어라인(nearline) HDD 같은 더 저렴한 대용량 스토리지가 더 적합합니다.
일반 투자자는 학습 데이터셋 규모, 추론 토큰 볼륨, 엔터프라이즈 SSD 주문, 니어라인 HDD 수요, 메모리 가격, 재고, 클라우드 자본 지출을 관찰할 수 있습니다. 여러 지표가 함께 상승한다면 실제 수요의 신뢰도가 더 높습니다.
AI 스토리지 수요 증가가 관련 주식의 상승을 반드시 의미하지는 않습니다. 주가는 밸류에이션, 재고, 가격 사이클, 경쟁, 고객 집중도, 시장 기대치의 영향도 받습니다. 거래 전에 투자자는 실적, 주문, 수수료 구조, 그리고 자신의 위험 감내 능력을 고려해야 합니다.
*이 문서는 일반 정보 제공 목적으로만 제공되며, BiyaPay 또는 그 자회사 및 계열사의 법률, 세무 또는 기타 전문적 조언을 구성하지 않으며, 재무 자문가나 기타 전문가의 조언을 받는 것을 대체할 의도도 없습니다.
당사는 본 간행물의 내용의 정확성, 완전성 또는 적시성에 관하여 명시적이든 묵시적이든 어떠한 진술이나 보증도 하지 않습니다.

