Post #21283

마이크론(Micron) 경영진이 Cantor와의 NDR에서 흥미로운 관점을 제시했습니다. 핵심 인사이트는 과거처럼 비트당 가격(price-per-bit)에 시장이 집중하는 것이 아니라 이제는 대역폭당 가격(price-per-bandwidth)에 초점이 맞춰지고 있다는 점입니다. 즉 2026년에는 비트당 가격이 상승할 수 있지만 대역폭당 가격은 오히려 하락할 것이라는 의미이며, 이는 매우 흥미로운 시각입니다. 과거 메모리 산업은 얼마나 많은 메모리 비트가 판매되었는지, 비트당 가격이 상승했는지 하락했는지, 그리고 공급이 증가하면 비트 가격이 하락하고 결국 마진이 붕괴되는 구조라는 관점에서 평가되어 왔습니다. 그러나 AI 시대에서는 특히 HBM과 같은 제품이 중요해지면서 고객이 구매하는 것은 더 이상 단순한 저장 용량이 아니라 데이터를 얼마나 빠르게 처리할 수 있는가, 즉 대역폭(bandwidth)입니다. 예를 들어 과거에는 “이 메모리의 용량이 얼마인가?”가 중요한 질문이었다면, 현재는 “이 시스템이 GPU에 초당 얼마나 많은 데이터를 공급할 수 있는가?”로 질문이 바뀌었다는 것이 마이크론 경영진의 주장입니다. 이는 특히 오늘날 AI 인프라에서 더욱 중요하며, 따라서 메모리 업체들은 단순히 비트를 판매하는 기업이 아니라 고성능 컴퓨팅을 가능하게 하는 성능 단위를 판매하는 기업으로 재정의되고 있습니다. 그렇다면 비트당 가격은 상승하지만 대역폭당 가격은 하락한다는 것은 무엇을 의미할까요? 핵심은 겉보기에는 고객이 더 많은 돈을 지불하는 것처럼 보이지만 실제로는 더 높은 성능과 더 큰 대역폭을 얻고 있으며 결과적으로 성능 대비 가격(price-per-performance)은 개선될 수 있다는 점입니다. 즉, 메모리 업체들은 ASP(평균판매가격)를 올릴 수 있지만 고객 입장에서는 이를 바가지가 아니라 가격 대비 성능 개선으로 인식할 수 있습니다. 이 구조가 중요한 이유는 메모리 기업들이 가격을 인상하더라도 대역폭 개선 폭이 더 크기 때문에 고객 입장에서 가격 인상에 대한 저항이 줄어드는 논리적 구조가 형성되기 때문입니다. 결국 메모리는 이제 TCO(총소유비용, Total Cost of Ownership) 기준으로 평가되고 있습니다. 한마디로 정리하면 HBM과 AI DRAM은 더 이상 단순한 비트 공급 산업이 아니라 GPU 시스템 성능의 핵심 구성 요소로 진화하고 있으며, 그 결과 가격 결정력이 강화되고 메모리 산업의 정상 마진 수준 자체가 과거 대비 구조적으로 상승할 가능성이 있습니다. https://x.com/jukan05/status/2039356580978991350?s=46