Ryu일무이

https://m.blog.naver.com/lanop/224224845686 #에스에이엠티

반도체 대란, 메모리 넘어 CPU로 확산… 인텔 "원가 상승 반영한 가격 조정" 1. CPU 공급 부족 및 리드타임 장기화 현황: PC 및 서버용 CPU 공급 부족이 심화되면서 기존 1~2주였던 평균 납기(Lead Time)가 8~12주, 최대 6개월까지 늘어났습니다. 전망: 2분기에는 공급이 더 타이트해질 것으로 보이며, 업계에서는 "돈이 있어도 CPU를 구하지 못하는 상황"을 우려하고 있습니다. 2. 인텔의 입장: "수요 변동과 원가 반영" 인텔 대만 총괄 매괄 매니저(장베이위)는 최근의 가격 조정이 단순히 미래 수요를 겨냥한 선제적 인상이 아니라, 전체 공급망의 제조 원가 변화를 반영한 것이라고 밝혔습니다. 현재의 상황은 전통적인 공급 부족이라기보다 수요 변동 속도가 너무 빠른 것이 원인이며, 유연한 생산 조절을 통해 분기별로 상황이 완화될 것으로 기대하고 있습니다. 3. 가격 인상 및 시장의 변화 가격: 인텔과 AMD는 3~4월 중 모든 CPU 가격을 인상할 것이라 통보했으며, 올해 들어 평균 10~15% 이상 올랐습니다. 우선순위: 제조사들이 수익성이 높은 서버용 CPU 생산을 우선시하면서 PC용 CPU 부족은 더욱 심화될 것으로 보입니다. 반사이익: x86(인텔/AMD) 공급 부족으로 인해 Arm 기반 CPU의 시장 점유율이 상승 중입니다. (예: 에이수스 AI PC 내 Arm 비중이 20%에서 30%로 급증) 4. AI PC 시장 전망 인텔은 메모리 가격 변동이나 단기적인 공급 불안정이 AI PC의 발전 흐름을 막지 못할 것으로 보고 있습니다. 연산 능력이 단말(Edge)로 이동하는 것은 거스를 수 없는 추세라는 분석입니다. https://money.udn.com/money/story/5612/9403360?from=edn_subcatelist_cate

나는 그래서 이거 하나봄 그냥 깔끔하게 중량당 수출단가

저는 터보퀀트는 잘 모르겠고, 그냥 스팟가격이 살짝 떨어지고 있으니까 P보고 온 외국인들은 계속 팔고 있다고 생각합니다. 미장에서도 마이크론이 약한 모습 역시 닉스 ADR이나 여타 이슈가 아닌 P가격 빠진거 때문에 그런거 같습니다. 이게 왜 맞는거 같냐면 DELL, HPE같은 SET업체들이 귀신같이 올라오고 있거든요 여기에 CPU가 AI H/W 유니버스에 갑자기 등장하면서 메모리 매력도가 살짝 분산된 느낌도 있구요. 아마 어제 ARM 행사에서 CPU수요가 3천만개에서 AI AGENT시대에 1억 2천만개는 필요하다고 이야기 했으니, CPU에서 급속하게 성장률이 나와, 미장 형님들 메모리에서 CPU로 언와인딩 나온거 같습니다. 국장도 어제부터 미장 흐름을 따라가고 있어서, CPU섹터에선 FC-BGA나 CPU 효율화 SW가 메모리보다 아웃퍼폼하는거 같네욥! 근데 전 이제는... 딱히 메모리 스팟 가격이 중요해지는 영역은 지났다고 생각함.

CPU가 돌아왔다 ✅ GPU 중심 구조에서 CPU 중심 Control Plane으로 이동 ‒ 기존 AI 인프라는 GPU 기반의 병렬 연산이 핵심이었지만, 멀티 에이전트와 Hydra 구조가 등장하면서 연산보다 “순차적 논리 제어”의 중요도가 급격히 상승 ‒ 에이전트는 단순히 토큰을 생성하는 것이 아니라, 수십 단계의 작업을 나누고 검증하며 반복 수행하는 구조이기 때문에 초당 수백만 번의 조건 분기와 상태 전환이 발생 ‒ 이러한 워크로드는 동일 연산을 반복하는 GPU보다, 강력한 단일 스레드 성능과 대규모 캐시를 가진 CPU가 훨씬 효율적으로 처리할 수 있어 CPU가 데이터센터의 ‘지휘관(Control Plane)’ 역할로 복귀 ✅ 에이전트 시대에서 GPU 구조가 가지는 근본적 한계 ‒ GPU는 SIMT 구조로 동일한 명령을 수천 개 코어에 동시에 실행하는 데 최적화되어 있지만, 에이전트 워크로드처럼 조건 분기가 많은 경우 각 코어가 서로 다른 경로를 선택하게 되면서 Warp Divergence가 발생하고 전체 효율이 급격히 저하됨 ‒ 특히 에이전트는 코드 실행, 오류 수정, 웹 탐색, 의사결정 등을 반복하는 구조이기 때문에 연산보다 “논리 흐름 제어”가 핵심이 되며, 이는 GPU가 가장 취약한 영역임 ‒ 또한 컨텍스트가 길어지면서 KV 캐시가 급증하고 메모리 병목(Memory Wall)이 심화되는데, 이 캐시를 관리하고 라우팅하는 작업 역시 GPU가 아닌 CPU가 담당할 수밖에 없는 구조 ✅ 데이터센터 구조 자체가 CPU 중심으로 재편되는 흐름 ‒ 과거에는 CPU와 GPU가 하나의 서버에 함께 탑재되는 모놀리식 구조가 일반적이었지만, 에이전트 시대에는 CPU가 처리해야 할 제어 연산이 폭증하면서 이 구조가 한계에 직면 ‒ 이에 따라 데이터센터는 GPU만 탑재된 연산 전용 랙(Compute Plane)과 CPU만 탑재된 제어 전용 랙(Control Plane)으로 물리적으로 분리되는 방향으로 진화하고 있음 ‒ 특히 에이전트 수가 증가할수록 CPU가 담당하는 오케스트레이션 부하가 기하급수적으로 증가하기 때문에, 일부 추론 환경에서는 CPU 수가 GPU를 초과할 수 있다는 전망까지 제기됨 ✅ CPU 수요가 구조적으로 폭발하는 이유 — ‘오케스트레이션 텍스’ ‒ 에이전트 시스템에서는 단순 연산 외에도 상태 관리, 보안 검증, API 호출, 가상머신 생성, 암호화 처리 등 방대한 부가 작업이 발생하며, 이러한 작업은 모두 CPU에 의존하는 CPU-bound 영역임 ‒ 특히 멀티 에이전트 구조에서는 하나의 작업을 수십 개의 하위 에이전트로 분해하고 병렬 실행하는데, 이 과정에서 발생하는 트래픽과 컨텍스트 스위칭이 CPU 수요를 폭발적으로 증가시키는 핵심 요인으로 작용 ‒ 결과적으로 CPU 수요는 단순히 늘어나는 것이 아니라, 에이전트 수 × 내부 페르소나 수라는 승수 구조를 가지며 예상보다 훨씬 빠르게 증가하는 특징을 보이게 됨 ✅ CPU 아키텍처 진화 방향 — “예측 가능성” 중심 설계 ‒ 에이전트 시대에서는 최대 처리량보다 “지연 시간의 안정성과 예측 가능성”이 더 중요해지면서, 기존의 SMT 기반 구조 대신 물리 코어를 늘리는 방향으로 설계 철학이 전환 ‒ 실제로 Arm 기반 CPU나 하이퍼스케일러 자체 설계 칩은 128~192개의 물리 코어를 탑재하고, 각 코어에 직접 작업을 할당하는 구조로 발전 ‒ 또한 KV 캐시 병목을 해결하기 위해 L2/L3 캐시를 대폭 확대하고, 코어 간 연결을 위한 Mesh 네트워크를 강화하는 방향으로 CPU 설계가 진화하고 있음 ✅ CPU 경쟁 구도 — x86 vs Arm vs Hyperscaler ‒ AMD는 칩렛 구조를 통해 코어 수 확장에서 구조적 우위를 확보하며 최대 256코어까지 확장하는 전략을 취하고 있고, 비용 효율 측면에서도 인텔 대비 우위를 점하고 있음 ‒ 반면 인텔은 SMT 제거와 안정성 강화라는 방향성을 선택했지만, 칩렛 전환이 늦어지면서 성능 및 시장 대응 속도에서 뒤처지는 모습 ‒ 동시에 AWS, Google, Microsoft 등 하이퍼스케일러들은 x86을 벗어나 Arm 기반 맞춤형 CPU를 자체 개발하며 전력 효율과 TCO를 극단적으로 최적화하는 방향으로 이동 ✅ 엔비디아 전략 — CPU까지 포함한 풀스택 장악 ‒ 엔비디아는 기존 Grace CPU에서 한계를 확인한 이후, 자체 코어를 설계한 Vera CPU를 통해 CPU 시장까지 직접 진입 ‒ 특히 Spatial Multithreading을 통해 스레드 간 간섭을 제거하고, 대규모 캐시와 확장된 연산 구조를 통해 에이전트 워크로드에 최적화된 CPU를 개발 중 ‒ 더 나아가 GPU 없이 CPU만 공급하는 Vera-only 계약까지 등장하면서, CPU 역시 엔비디아 생태계 안으로 흡수하려는 전략이 본격화되고 있음 💡 결론: CPU는 “보조 연산장치”에서 “AI 인프라의 중심”으로 재평가되는 국면 » AI가 단순 생성에서 에이전트 기반 실행 구조로 전환되면서, 연산보다 제어가 중요한 구조적 변화가 발생 » 이 변화는 GPU 중심 인프라 위에 CPU 중심 Control Plane을 추가하는 것이 아니라, 아예 인프라 설계 자체를 재정의하는 수준의 변화 » 따라서 CPU는 단순한 사이클 동참이 아니라, AI 인프라의 새로운 병목이자 핵심 투자 포인트로 리레이팅되는 국면 *미래 한종목 위원님 자료 내 CPU 관련 내용 발췌 (26.03.06)

#기판 1. PCB 공급 리드타임이 6주 → 6개월로 급증, 기판 생산 리드타임(약 45일) 대비 수요가 공급을 크게 초과 2. 증설 기대 및 판가 인상 가능성 확대: 글로벌 업체 CapEx 확대는 장기 수요 가시성 증가를 의미하며, 국내도 증설 흐름 확산 예상 + 기존 레거시 라인까지 판가 인상 가능성 확대 3. AI 인프라 구조 변화로 수요 증가: GPU 중심에서 POD 단위(다수 칩·모듈)로 확대되며 총 die 수요 증가 → FC-BGA, 메모리 모듈, Co-PKG Optics 등 기판 수요 구조적 성장

구글의 TurboQuant, 메모리 효율성 향상이 가져올 추론 수요 폭발 안녕하세요 삼성증권 글로벌 AI/SW 담당 이영진입니다. 구글이 발표한 TurboQuant는 AI 추론 과정에서 발생하는 KV 캐시 병목을 해결하기 위한 알고리즘입니다. KV 캐시는 자주 사용되는 정보를 저장해 방대한 데이터베이스 참조 없이 즉시 정보를 불러올 수 있도록 하는 일종의 메모장인데요 병목 완화를 위해 고차원 벡터 크기를 줄이는 전통적 벡터 양자화를 통한 압축 기술 적용이 기존에도 연구되었습니다. 하지만 전통적 방식은 추가 메모리 오버헤드와 정확도 손실이 발생하는데요 반면 TurboQuant는 PolarQuant와 QJL을 결합해 벡터 양자화에서 메모리 오버헤드 문제를 최적으로 해결하는 압축 알고리즘입니다. PolarQuant는 벡터를 좌표에서 각도(극좌표)로 변환해 데이터 구조를 단순화하고, QJL은 값을 +1과 -1 비트로 표현하는 수학적 기법으로 남은 오차를 보정합니다. 1단계 PolarQuant로 대부분 압축을 실행하고, QJL로 오류를 보정하는 통합 구조입니다. 사람들이 주목한 것은 결과인데요 1) KV 메모리 크기를 최소 6배 축소 2) 추가 학습 및 파인튜닝 없이 KV 캐시를 3비트까지 양자화 3) 모델 정확도를 유지하면서 빠른 실행 속도 달성 특히 H100 기준 4비트 TurboQuant는 32비트 비양자화 대비 8배의 어텐션 연산 속도를 달성했습니다. KV 캐시 압축을 비롯한 추론 최적화는 지속적으로 연구가 진행되던 분야입니다. 중국 기업들도 상당한 노력을 기울이고 있구요 과거 딥시크의 MLA나 DSA도 KV 캐시로 인한 메모리 및 연산 병목 완화 목적의 연구입니다. MLA는 구조 변경 DSA는 선택적 어텐션을 통해 접근했습니다. 물론 구글의 TurboQuant는 KV 저장 및 사용 구조를 유지하면서 모델 수정 없이 바로 적용이 가능하고 이론적으로 무손실에 가까운 압축을 달성한다는 점에서는 차별화되는 부분이 있습니다. TurboQuant 알고리즘이 활용된다면 추론 비용 하락을 달성할 수 있습니다. 하지만 오히려 수요는 폭발 할 것입니다. 속도 및 퀄리티 하향 없이 장기 컨텍스트 윈도우 및 대규모 배치의 활용이 가능하니까요 또한 로컬 모델에서도 대규모 컨텍스트 윈도우 활용이 가능해집니다. 온디바이스 개화로도 이어질 수 있는 포인트입니다. 추론 작업에 대한 메모리 공간이 추가로 생긴다고 하더라도 에이전트 AI 확대 속 이를 상회하고도 남는 전체 추론 수요 상승 트렌드는 이미 이어지고 있습니다. 작년 딥시크 이슈 때도 대두되었던 제본스의 역설(비용 하락에 따른 수요 급증)이 재확인될 가능성이 높다고 생각합니다. 쿼리와 토큰량의 기울기는 다시 한 번 가팔라질 수 있습니다. 세상을 뒤흔들고 있지만, 방금 나온 따끈한 새로운 기술은 아닙니다. 이미 25년 4월에 논문으로 공개된 내용입니다. 시스템 레벨에서 적용한 사례가 추가되어 블로그에 게시된 것입니다. 그리고 공개된 연구인 만큼 AI 산업 내 다른 플레이어의 활용도 열려있습니다. 또한 알고리즘은 추론 측면에서 적용됩니다. 학습 측면에서 모델 스케일링에 기반한 반도체 필요성은 여전합니다. 마지막으로 연구 성과가 실제 환경에서 적용되는 것에서 괴리가 존재할 수 있습니다. 이건 구글이 향후에 증명해야하는 부분이겠지요 저희도 AI 투자와 반도체에 긍정적인 뉴스라는 의견입니다. (2026/3/26 공표자료)

오늘 터보 퀀트가 화두인지라 송명섭 위원님 코멘트를 받아봤습니다.

오늘 터보 퀀트가 화두인지라 송명섭 위원님 코멘트를 받아봤습니다.

[터보퀀트, 그리고 시장의 오래된 착각] 시장은 또 발작했다. 구글이 터보퀀트를 발표하자 메모리 주식들이 일제히 빠졌다. KV 캐시를 6배 압축할 수 있다는 알고리즘 하나에 샌디스크 5.7%, 웨스턴 디지털 4.7%, 씨게이트 4.0%, 마이크론 3.0%가 무너졌다. 나스닥 100이 오르는 날에. 이 광경이 낯설지 않은 이유가 있다. 우리는 이 장면을 전에도 봤다. 역사는 반복된다, 그러나 시장은 기억하지 못한다 MP3가 나왔을 때, 사람들은 음원 산업이 끝났다고 했다. 10배 압축이 가능하니 저장 공간이 필요 없어진다고. 그런데 실제로 일어난 일은 달랐다. 압축 기술이 음악 접근성을 높이자 음원 소비량이 폭발했고, 결국 스트리밍 시대가 열리면서 고품질 무손실 음원 수요는 오히려 더 커졌다. 압축이 시장을 죽인 게 아니라 시장을 키운 것이다. 디스플레이 해상도가 FHD에 도달했을 때, 전문가들은 이렇게 말했다. 사람의 눈이 이 이상을 인식할 수 없다고. 기술 발전이 여기서 멈출 것이라고. 그러나 세상은 QHD를 만들었고 UHD를 만들었고 지금은 8K를 논한다. 인간의 눈이 한계라고 선언했던 그 순간에도 수요는 멈추지 않았다. 그리고 지난해 딥시크 사태. GPU 효율화로 컴퓨팅 수요가 줄어든다는 공포에 엔비디아를 비롯한 반도체 주식이 폭락했다. 결말은 모두가 안다. GPU 효율이 높아지자 AI 서비스 사용량이 폭발했고 전체 컴퓨팅 수요는 오히려 폭증했다. 경제학에서는 이것을 제번스의 역설이라고 부른다. 19세기 윌리엄 제번스가 증기기관 연료 효율이 개선될수록 석탄 소비가 오히려 늘었다는 사실을 발견하면서 정립한 개념이다. 효율이 좋아지면 비용이 낮아지고, 비용이 낮아지면 사용량이 폭발한다. 기술의 역설이자 수요의 본질이다. AI 초기의 교훈: SLM이 답이라던 사람들은 어디 있는가 2023년 AI 혁명 초기를 기억하는가. 그때 수많은 테크 기업들이 SLM, 즉 소형 언어 모델이 미래라고 했다. 컴퓨팅 효율화로 작은 모델로도 충분하다고. 대표적인 곳이 애플이었다. 온디바이스 AI, 경량화 모델, 엣지 추론. 화려한 발표들이 줄을 이었다. 그런데 지금 AI 경쟁의 선두에 있는 곳은 어디인가. 뒤늦게 컴퓨팅 파워를 때려 넣은 xAI가 올라왔다. 효율화를 논하는 대신 그냥 더 많은 GPU를 집어넣은 곳이 이겼다. 그록은 멤피스에 10만 장의 GPU를 구겨 넣었고 그것이 답이었다. 효율화로 살아남은 SLM 전략은 없었다. 스케일이 이겼다. 터보퀀트의 진짜 의미 이번 터보퀀트도 같은 맥락이다. KV 캐시를 6배 압축한다는 것은 동일한 메모리로 6배 더 긴 컨텍스트를 처리할 수 있다는 뜻이다. 그런데 AI 개발자들이 이 효율을 어디에 쓸까. 메모리를 덜 살까, 아니면 더 긴 컨텍스트와 더 복잡한 추론을 시도할까. 역사의 답은 항상 후자였다. 그리고 한 가지 더. 이날 가장 많이 빠진 종목이 샌디스크와 웨스턴 디지털이었다. 두 기업은 낸드 플래시와 HDD 중심 기업이다. KV 캐시와 직접적인 관련이 없다. 시장이 터보퀀트가 정확히 무엇을 압축하는지조차 제대로 읽지 못한 채 메모리라는 단어만 보고 섹터 전체를 팔아버린 것이다. 발작이라는 표현이 과하지 않은 이유다. 결론: 공포는 기회다 MP3가 나왔을 때 음반 회사 주식을 팔았던 사람들, 디스플레이가 FHD에서 멈출 것이라고 믿었던 사람들, 딥시크 발표 다음 날 엔비디아를 팔았던 사람들. 그들이 어떻게 됐는지는 굳이 말하지 않아도 안다. 효율화 기술이 발표될 때마다 시장은 수요 감소를 먼저 읽는다. 그리고 매번 틀렸다. 기술의 효율화는 시장을 죽이지 않는다. 진입 장벽을 낮추고 사용량을 폭발시키고 결국 더 많은 인프라를 요구한다. 터보퀀트는 위협이 아니다. 다음 수요 폭발의 출발점일 가능성이 더 높다. 시장이 발작할 때, 역사를 기억하는 사람만이 올바른 선택을 한다.

CPU 공급 부족 심화 (Nikkei Asia) 과거 1~2주 수준이던 CPU 평균 리드타임은 최근 8~12주로 늘어났으며 일부 서버 및 PC 유통사에서는 최대 6개월까지 대기 시간이 길어지고 있다. 공급 부족 여파로 CPU 가격은 올해 들어 평균 10~15% 상승했으며 인텔과 AMD는 각각 3월과 4월부터 전 제품군에 걸쳐 추가 가격 인상을 예고했다. 인텔과 AMD 등 x86 진영의 공급난은 Arm 아키텍처 기반 프로세서가 PC 시장에서 점유율을 확대하는…