이번 AI 금광 러시의 인프라 곡괭이, 메모리를 다시 본다

이번 메모리 사이클이 어디서 끝날지, 솔직히 누구도 모른다. 나도 모른다. 사이클의 정점을 맞추는 일은 항상 사후적으로만 정확하다.

그런데 우리가 메모리에 강하게 베팅할 수 있었던 건, 사이클 예측이 뛰어나서가 아니다. 2023년과 2024년에 이미 한 번 봤기 때문이다. 엔비디아 H100 GPU의 대기 시간이 8~11개월에 달했고, 일부 주문은 40주(약 9개월) 이상 기다려야 했다. 중국향 A800·H800은 정가 대비 40% 프리미엄을 얹어 거래되었고, 일부 주문은 6개월 이상 대기열에 묶였다. GPU가 마약보다 구하기 힘들다는 농담이 농담이 아니던 시기였다.

_2023년 중반 H100 인도 대기는 8~11개월. 2024년 들어 가파르게 정상화._

그때 GPU 옆에 붙어 있어야 하는 부품이 무엇인지, 그 부품을 만드는 회사가 어디인지는 명백했다. 다시 말해, 메모리 베팅은 미래 예측이 아니라 과거 패턴의 연장선이었다. GPU에서 벌어진 일이 메모리에서 벌어지지 않을 이유가 없다는, 비교적 안전한 추론이었다.

지금 그 패턴은 정확히 반복되고 있다. SK하이닉스 DRAM 마케팅 책임자는 2025년 10월 FT 인터뷰에서 "내년 DRAM, NAND, HBM 모든 capacity가 매진되었다"고 밝혔다. 같은 시점 SK하이닉스의 DRAM 재고는 약 2주 수준까지 떨어졌고, 일부 DDR5 제품은 재고가 0인 상태로 생산과 출하가 동시에 이루어지는 구조가 됐다. 한국 메모리 양사는 5세대 HBM(HBM3E)의 2026년 인도분 가격을 약 20% 인상한 것으로 전해진다.

_재고가 통상 수준 대비 극단적으로 낮고, 가격은 두 자릿수 인상._

GPU가 마약이었던 시기를 메모리가 그대로 다시 쓰고 있다. 다만 여기서 갈린다. "메모리가 정말로 그만큼 필요할 것인가"는 각자의 AI 리서치 깊이에 따라 답이 다르다. 누군가는 단순한 숏티지로 봤고, 누군가는 구조적 폭증으로 봤다. 같은 종목을 사고도 확신의 두께는 달랐다.

여기서 한 번 멈추고, 시계를 1849년 캘리포니아로 돌려보자.

골드러시가 시작되었을 때 가장 큰 부자가 된 사람은 누구였나. 정작 금을 캔 광부들이 아니었다. 광부들에게 곡괭이와 삽, 청바지와 텐트, 그리고 운송 서비스를 판 사람들이었다. Levi Strauss는 광부들에게 질긴 청바지를 팔아 거대한 의류 제국을 세웠다. Samuel Brannan은 광산이 발견되자마자 샌프란시스코의 모든 곡괭이와 삽을 사재기해 도매상이 됐다. 정작 금을 캐는 광부 대다수는 빈손으로 돌아갔다.

이 패턴은 모든 자본 사이클에서 반복된다. 부의 정점은 인프라를 파는 쪽으로 먼저 흐른다. 왜냐하면 인프라 공급자는 누가 금을 캐든 돈을 받기 때문이다. 광부 A가 실패해도 광부 B가 곡괭이를 산다. 광부 B가 실패해도 광부 C가 산다. 인프라는 경쟁자들의 합 위에 올라탄다.

지금의 AI 골드러시도 같은 구조다. 금을 캐는 광부는 OpenAI, Anthropic, Google DeepMind, xAI, Meta다. 이들은 누가 최종 승자가 될지 아직 모른다. 그러나 그들이 모두 같은 곡괭이를 사고 있다는 사실은 분명하다. 그 곡괭이가 GPU와 메모리다.

GPU 쪽 곡괭이는 엔비디아가 거의 독점하고 있다. 메모리 쪽 곡괭이는 SK하이닉스, 삼성, 마이크론 세 회사다. 이 다섯 회사는 광부들이 누구든, 어느 광부가 이기든, 광부들이 서로 더 깊이 캐려고 경쟁하는 한 돈을 받는다.

그래서 메모리 가격이 오른다는 사실은 사이클의 종착지를 알려주는 신호가 아니다. 광부들이 아직도 곡괭이를 사고 있다는 신호일 뿐이다. 메모리 가격이 오르면 사이클이 끝났다고 말하는 건, 1849년에 곡괭이 가격을 보고 "금광이 끝났다"고 말하는 것과 같다. 정반대다. 곡괭이 가격이 오르는 건 광부들이 더 절박해졌다는 뜻이다.

핵심 질문 하나만 짚자. CSP와 LLM 회사들 — 마이크로소프트, 구글, 메타, 아마존, OpenAI, Anthropic — 이 광부들은 왜 비싼 곡괭이를 마다하지 않는가.

답은 단순하다. 토큰 단가를 낮추기 위해서다.

지난 17개월 동안 토큰 가격은 자유낙하했다. GPT-4가 출시 시점인 2023년 3월 백만 토큰당 36달러였던 것이, GPT-4o 출시 17개월 만에 4달러까지 떨어졌다. 연 79% 하락 페이스다.

_토큰 가격은 무어의 법칙으로는 설명되지 않는 속도로 떨어지고 있다._

_"GPT-4(2023년 초) 대비 GPT-4o(2024년 중반) 토큰 가격은 약 150배 떨어졌다. 무어의 법칙이 18개월에 2배였는데, 이건 비교가 안 될 만큼 강하다." — Sam Altman, 2025년 2월_

알파벳도 같은 곡선을 자랑한다. CEO 순다 피차이는 2025년 한 해에만 모델 최적화로 Gemini 추론 비용을 78% 줄였다고 발표했다. 이 가격 곡선의 의미는 명확하다. 그들은 지금 수익화가 목표가 아니다. 이 점을 자주 잊는다. 분기 실적에서 AI 부문 마진이 압박을 받는다는 뉴스가 반복되지만, 그건 그들이 신경 쓰는 지표가 아니다. 그들이 신경 쓰는 건 토큰 한 개를 만들어내는 한계비용이 얼마나 빠르게 떨어지느냐다.

왜 토큰 비용을 낮춰야 하나. 토큰 비용이 충분히 낮아지면, AI는 모든 소프트웨어 레이어에 침투한다. 검색, 생산성, 코드, 디자인, 고객 응대, 의사결정 보조. 그 시점에 사용자는 AI 없이는 일을 못 한다. 그게 lock-in이다. 그리고 lock-in 이후에 가격은 다시 오른다. 그게 그들의 게임 플랜이다.

지금의 적자는 미래의 독점 지대를 사기 위한 비용이다. 그래서 그들은 비싼 가격에도 곡괭이를 사고, 다년 계약을 맺는다. 단기 계약이던 메모리 시장이 최근 3~5년짜리 LTA(장기공급계약) 모델로 전환되고 있다. 마이크로소프트는 SK하이닉스와 수십조 원 규모의 DDR5 3년 공급 계약을 마무리 단계에 있고, 구글은 SK하이닉스와 최대 5년짜리 범용 DRAM 장기 계약을 협상 중이다.

더 인상적인 건 계약 구조다. SK하이닉스의 마이크로소프트·구글 장기 계약은 총 계약가의 약 10~30%를 선급금으로 지급하고, 계약 기간 내 최저가를 보장하는 조항을 포함한다. 이건 단순한 구매계약이 아니다. 광부들이 곡괭이 회사에 미리 돈을 박아두는 행위다.

토큰 비용이 0에 수렴하려면 무엇이 필요한가. 메모리 곡괭이만으로는 안 된다. AI 자체의 고도화가 필요하다. 같은 결과를 더 적은 연산으로, 더 적은 토큰 입출력으로 만들어내는 모델 효율화. 그리고 그 효율화의 기반은 여전히 GPU다.

수치가 뒷받침한다. 2026년 빅4 하이퍼스케일러(MS, 알파벳, 메타, 아마존)의 CapEx는 합계 7,250억 달러로, 작년 대비 77% 증가한 규모로 가이던스가 잡혀 있다.

_빅4 합계 CapEx는 한 해에 +77% 증가. MS는 메모리 가격 상승분만 약 $25B 추가._

이 중 약 75%인 4,500억 달러가 AI 인프라 — 서버, GPU, 데이터센터, 장비 — 로 직접 흘러간다. 메모리가 이 CapEx에서 차지하는 비중은 SemiAnalysis 추정으로 2023~24년 약 8%에서 2026년 약 30%로 4배 가까이 증가했다. 그러나 GPU와 컴퓨팅에 대한 지출은 줄지 않았다. 마이크로소프트 CFO Amy Hood는 2026년 CapEx의 약 3분의 2가 GPU와 CPU에 투입되며, 이렇게 쓰고도 2026년 내내 capacity 제약 상태가 지속될 것이라고 명시했다.

엔비디아 주가가 의미 있는 신고가를 만들지 못하고 있는 이유가 여기 있다고 본다. 2025년 10월 약 213달러의 ATH를 찍은 이후, 2026년 3월 164달러까지 조정을 받고 5월 현재 196~200달러 부근에서 약 7개월간 박스권 횡보 중이다.

_엔비디아 박스권 횡보 — GPU 곡괭이 수요는 아직 식지 않았다는 시장 신호._

시장은 GPU 사이클이 끝났다고 단정하지 못한다. 단정할 수 없는 이유는 명확하다. GPU 곡괭이도 아직 충분하지 않기 때문이다.

마이크로소프트가 좋은 사례다. Azure는 800억 달러 규모의 주문 백로그를 전력 제약 때문에 채우지 못하고 있다고 공시했다. 알파벳의 클라우드 계약 백로그는 전 분기 대비 거의 두 배인 4,620억 달러로 폭증했고, 회사는 "내부·외부 모두에서 전례 없는 AI 컴퓨팅 수요를 보고 있다"고 밝혔다. 학습 단계의 GPU 수요는 어쩌면 정점에 가까울 수 있다. 그러나 추론 단계 수요, 그리고 다음 세대 모델 — Agentic AI, 멀티모달, 장기 컨텍스트 — 이들이 요구하는 컴퓨팅은 아직 충분히 공급되지 않았다.

그래서 게임을 다시 정의해야 한다.

이 게임은 곡괭이 회사들이 얼마나 비싸게 팔 수 있느냐의 게임이 아니다. 광부들 — CSP와 LLM 회사들 — 이 토큰 비용을 얼마나 빠르게 0에 가깝게 만들 수 있느냐의 게임이다. 메모리는 그 게임의 입력값 중 하나다. 중요한 입력값이지만, 게임의 결과를 결정하는 변수는 아니다.

광부들의 투자 강도가 이를 증명한다. Jefferies는 미국 빅4 하이퍼스케일러가 2026년 영업현금흐름의 92%를 CapEx에 쓸 것으로 추정한다. 2023년의 41%에서 두 배 이상 뛴 수치다. 이 중 28%는 메모리에만 들어간다.

_메모리 비중 4배 증가, 영업현금흐름 대비 CapEx는 41% → 92%. 광부들의 절박함._

자기 자본만으로는 모자란다. 알파벳은 2025년 11월 250억 달러 규모의 채권을 발행했고, 장기부채는 한 해 동안 4배 늘어나 465억 달러가 됐다. 아마존은 2026년 자유현금흐름이 마이너스 170~280억 달러로 추정되며, 추가 채권·주식 발행 가능성을 SEC 공시에 명시했다.

_"이건 이미 자본전쟁이지 AI 하이프가 아니다." — IEEE ComSoc 분석 (2025.12)_

_"이 경쟁에서 지느니 차라리 파산하겠다." — Larry Page, Google 공동창업자_

만약 광부들이 토큰 비용 zero化에 성공한다면? 보상은 막대하다. AI에 lock-in된 전 세계 기업과 개인으로부터 거의 무한에 가까운 캐시플로우를 끌어낼 수 있다. 그래서 그들은 지금 손실을 감수하고 곡괭이를 산다.

만약 실패한다면? 토큰 비용이 충분히 떨어지기 전에 자본조달 환경이 먼저 식으면, 사이클은 그 시점에 꺾인다. 메모리 가격이 좋다는 이유로 사이클이 연장되지 않는다. 곡괭이는 광부가 살아 있을 때만 팔린다.

결론은 단호해야 한다. 지금 메모리 보고 사이클 고점을 논하는 건 시기상조다.

이 사이클의 끝은 곡괭이 가격이 정하지 않는다. 광부들이 정한다. 그리고 그 광부들이 보내는 신호는 한결같다. 영업현금흐름의 92%를 쓰겠다는 의지, 채권으로 자기 자본 한계를 넘겠다는 의지, 영업적자를 감수하면서 다년 계약에 선급금을 박아두는 의지. 이건 광부들이 아직도 더 깊이 캐러 들어간다는 신호다.

곡괭이 가격을 보고 사이클의 종착지를 가늠하려는 시도는, 게임의 변수와 결과를 거꾸로 보는 것이다. 사이클의 끝을 결정하는 변수는 다른 곳에 있다.

첫째.광부들이 토큰 비용을 충분히 낮추는 데 성공할 때. 그때는 인프라 투자 단계가 마무리되고 수익화 단계가 시작된다. 곡괭이 수요는 안정화되지만, 그 시점은 아직 멀다. 토큰 가격은 여전히 연 단위로 5~10배씩 떨어지는 중이고, 그 곡선이 평탄해질 기미는 보이지 않는다.

둘째.광부들이 성공하기 전에 자본조달 환경이 먼저 식을 때. 영업현금흐름의 92%를 CapEx에 붓고 있는 회사들은 자금조달 비용이 조금만 변해도 흔들린다. 이건 메모리 사이클이 아니라 매크로 사이클의 문제다. 금리, 채권 스프레드, 신용 사이클 — 이 변수들이 사이클의 진짜 종결 신호다.

어느 쪽이든, 신호는 메모리 가격에서 오지 않는다. 하이퍼스케일러의 CapEx 가이던스, 빅테크의 채권 발행 스프레드, 토큰 단가의 실제 하락 속도, GPU 백로그의 소화 속도. 이런 지표들을 봐야 한다.

지금 우리가 보고 있는 건 인류 역사상 보기 드문 메모리 수요 폭증, 즉 램포칼립스다. SK하이닉스의 2026년 capacity가 매진됐다는 사실, 메모리가 hyperscaler 지출의 30%를 차지한다는 사실, HBM 신규 capacity가 2027~28년에야 의미 있게 풀린다는 사실 — 이 모두가 사실이다. 그러나 이 사실들이 사이클의 종착지를 알려준다고 해석하는 건 데이터를 잘못 읽는 것이다. 이 사실들은 정반대를 말한다.

광부들이 아직도 곡괭이를 사고 있다는 것이다.

1849년 곡괭이 가격이 비쌌다고 골드러시가 끝나지 않았다. 끝난 건 금이 다 캐였을 때, 혹은 금값이 떨어졌을 때다. 지금 우리는 금이 더 나오는지(토큰 가격 곡선), 자본이 끊기는지(채권 시장)를 봐야 한다. 곡괭이 가격을 보는 건 게임을 거꾸로 보는 것이다.