Post #3802

[터보퀀트, 그리고 시장의 오래된 착각] 시장은 또 발작했다. 구글이 터보퀀트를 발표하자 메모리 주식들이 일제히 빠졌다. KV 캐시를 6배 압축할 수 있다는 알고리즘 하나에 샌디스크 5.7%, 웨스턴 디지털 4.7%, 씨게이트 4.0%, 마이크론 3.0%가 무너졌다. 나스닥 100이 오르는 날에. 이 광경이 낯설지 않은 이유가 있다. 우리는 이 장면을 전에도 봤다. 역사는 반복된다, 그러나 시장은 기억하지 못한다 MP3가 나왔을 때, 사람들은 음원 산업이 끝났다고 했다. 10배 압축이 가능하니 저장 공간이 필요 없어진다고. 그런데 실제로 일어난 일은 달랐다. 압축 기술이 음악 접근성을 높이자 음원 소비량이 폭발했고, 결국 스트리밍 시대가 열리면서 고품질 무손실 음원 수요는 오히려 더 커졌다. 압축이 시장을 죽인 게 아니라 시장을 키운 것이다. 디스플레이 해상도가 FHD에 도달했을 때, 전문가들은 이렇게 말했다. 사람의 눈이 이 이상을 인식할 수 없다고. 기술 발전이 여기서 멈출 것이라고. 그러나 세상은 QHD를 만들었고 UHD를 만들었고 지금은 8K를 논한다. 인간의 눈이 한계라고 선언했던 그 순간에도 수요는 멈추지 않았다. 그리고 지난해 딥시크 사태. GPU 효율화로 컴퓨팅 수요가 줄어든다는 공포에 엔비디아를 비롯한 반도체 주식이 폭락했다. 결말은 모두가 안다. GPU 효율이 높아지자 AI 서비스 사용량이 폭발했고 전체 컴퓨팅 수요는 오히려 폭증했다. 경제학에서는 이것을 제번스의 역설이라고 부른다. 19세기 윌리엄 제번스가 증기기관 연료 효율이 개선될수록 석탄 소비가 오히려 늘었다는 사실을 발견하면서 정립한 개념이다. 효율이 좋아지면 비용이 낮아지고, 비용이 낮아지면 사용량이 폭발한다. 기술의 역설이자 수요의 본질이다. AI 초기의 교훈: SLM이 답이라던 사람들은 어디 있는가 2023년 AI 혁명 초기를 기억하는가. 그때 수많은 테크 기업들이 SLM, 즉 소형 언어 모델이 미래라고 했다. 컴퓨팅 효율화로 작은 모델로도 충분하다고. 대표적인 곳이 애플이었다. 온디바이스 AI, 경량화 모델, 엣지 추론. 화려한 발표들이 줄을 이었다. 그런데 지금 AI 경쟁의 선두에 있는 곳은 어디인가. 뒤늦게 컴퓨팅 파워를 때려 넣은 xAI가 올라왔다. 효율화를 논하는 대신 그냥 더 많은 GPU를 집어넣은 곳이 이겼다. 그록은 멤피스에 10만 장의 GPU를 구겨 넣었고 그것이 답이었다. 효율화로 살아남은 SLM 전략은 없었다. 스케일이 이겼다. 터보퀀트의 진짜 의미 이번 터보퀀트도 같은 맥락이다. KV 캐시를 6배 압축한다는 것은 동일한 메모리로 6배 더 긴 컨텍스트를 처리할 수 있다는 뜻이다. 그런데 AI 개발자들이 이 효율을 어디에 쓸까. 메모리를 덜 살까, 아니면 더 긴 컨텍스트와 더 복잡한 추론을 시도할까. 역사의 답은 항상 후자였다. 그리고 한 가지 더. 이날 가장 많이 빠진 종목이 샌디스크와 웨스턴 디지털이었다. 두 기업은 낸드 플래시와 HDD 중심 기업이다. KV 캐시와 직접적인 관련이 없다. 시장이 터보퀀트가 정확히 무엇을 압축하는지조차 제대로 읽지 못한 채 메모리라는 단어만 보고 섹터 전체를 팔아버린 것이다. 발작이라는 표현이 과하지 않은 이유다. 결론: 공포는 기회다 MP3가 나왔을 때 음반 회사 주식을 팔았던 사람들, 디스플레이가 FHD에서 멈출 것이라고 믿었던 사람들, 딥시크 발표 다음 날 엔비디아를 팔았던 사람들. 그들이 어떻게 됐는지는 굳이 말하지 않아도 안다. 효율화 기술이 발표될 때마다 시장은 수요 감소를 먼저 읽는다. 그리고 매번 틀렸다. 기술의 효율화는 시장을 죽이지 않는다. 진입 장벽을 낮추고 사용량을 폭발시키고 결국 더 많은 인프라를 요구한다. 터보퀀트는 위협이 아니다. 다음 수요 폭발의 출발점일 가능성이 더 높다. 시장이 발작할 때, 역사를 기억하는 사람만이 올바른 선택을 한다.