Agentic 전환의 3중 전력 체인

이 섹션은 리포트의 논리적 근간이다. Agentic 워크로드가 단순한 '컴퓨트 수요 × N배' 모델이 아니라, 왜 전력·네트워킹·인프라의 구조를 동시에 바꾸는지를 네 단계로 분해한다.

1.1 토큰 소비의 단위경제 변화

기존 chat-era 워크로드는 사용자 1명당 수백~수천 토큰/세션의 상대적으로 sparse한 인퍼런스 패턴이었다. Agentic 환경에서는 한 명의 사용자가 수십~수백 개의 sub-agent를 병렬로 구동하며, 각 agent가 독립적으로 tool call, 컨텍스트 처리, reflection, replanning을 수행한다. 단일 사용자 기준 토큰 소비량은 chat 대비 10~100배 수준으로 추정되며, 이는 클러스터 단위의 compute·memory·네트워크 부하를 비선형적으로 증가시킨다.

IEA는 이를 정량화해 accelerated server의 전력 소비가 Base Case에서 연 30% 증가, conventional server는 연 9% 증가로 구분했다. 즉 AI-specific 컴퓨트는 전체 데이터센터 전력의 평균치보다 2배 이상 빠르게 확대되며, 이 gap이 투자 가능한 'AI 인프라 프리미엄'의 실체다.

1.2 메모리 대역폭 병목 — GPU Scale-up 강제

Sub-agent 병렬 구동의 핵심 제약은 FLOPs가 아니라 메모리 I/O다. 각 agent는 독립된 KV cache와 context state를 보유하며, 이들 간 동기화·검색·교차 참조는 GPU 간 대역폭에 직접 의존한다. 전통적 스토리지 계층(HDD·eSSD)에서 메모리로의 swap은 인퍼런스 레이턴시를 심각하게 악화시키며, 이것이 HBM 용량·대역폭 스펙업과 scale-up 도메인 확장의 근본 동인이다.

1.3 Scale-up의 물리적 한계 — 구리에서 광으로

NVIDIA Rubin 세대 NVLink는 GPU당 14.4Tbps까지 확장되지만, 구리 기반 scale-up은 최대 2미터 범위로 제한되어 scale-up domain이 1~2 rack 수준에 머무른다. Agentic 클러스터가 요구하는 수천~수만 GPU 단위의 low-latency coherent domain은 구리로는 물리적으로 도달 불가능하다.

NVIDIA는 이에 대응해 Quantum-X InfiniBand CPO를 2026년 상반기, Spectrum-X Ethernet CPO를 2026년 하반기 상용 출시한다. CPO 기반 시스템은 포트당 전력을 9W 수준까지 낮추고 전기적 손실을 약 4dB로 축소한다. Dell'Oro는 2026년이 CPO의 InfiniBand와 Ethernet 스위치 양쪽에서 초기 볼륨 램프 원년이 될 것으로 전망한다.

1.4 Jevons Paradox — 효율이 수요를 키운다

CPO는 포트당 전력을 3.5배 개선하지만, 단위 클러스터당 총 포트 수와 scale-up domain 크기를 동시에 확장한다. Agentic 워크로드 단위경제가 개선될수록 더 많은 조직이 더 많은 agent를 돌릴 유인이 생기므로, 효율 개선이 수요를 오히려 증폭시킨다. 결과적으로 데이터센터의 절대 전력 수요는 효율 개선 곡선 위로 상향 재조정된다.

이 현상은 경제사에서 반복 관찰된 Jevons Paradox의 전형이다. 19세기 증기기관 효율 개선이 석탄 소비 감소가 아닌 증가로 이어졌듯, AI 컴퓨트 효율 개선은 총 전력 소비의 감소가 아닌 증가를 만든다. IEA는 이를 반영해 2024년 415TWh에서 2030년 945TWh로 두 배 이상 증가, 미국과 중국이 전 세계 증가분의 약 80%를 차지한다고 전망했다.