미국 데이터센터, ‘뉴욕시 6개 도시 분의 전력 부족’
위대한 전력에는 위대한 비개연성이 따른다

Bryce Elder
발행 10시간 전
일론 머스크가 하는 말이 모두 어리석은 것은 아니다. 때로는 그저 뻔할 뿐이다. 2주 전쯤 노스캐롤라이나에서 열린 G20 혁신 장관 정상회의에서 그가 AI 데이터 센터에 대해 이렇게 말했다:
전력 면에서 꽤 심각한 위기가 닥쳐 있습니다. [ . . . ] 현재 컨센서스는 내년에 상당한 전력 부족이 발생할 것이라는 것입니다. 즉, 먼 미래의 이야기가 아니라는 뜻이죠. AI 분야를 매우 면밀히 지켜보는 애널리스트들 사이의 컨센서스 추정치로는 2027년에 AI 칩 전력이 최소 15기가와트 부족할 것이라고 생각합니다. AI 칩 생산 속도는 놀라울 정도로 빠르게 증가하고 있습니다. 연간 40~50% 수준으로 늘어나고 있죠. 반면 중국 외 지역의 가용 전력은 연간 10~20%씩 증가하는 데 그치고 있습니다. 당연히 더 빠르게 증가하는 쪽이 결국 더 느리게 증가하는 쪽을 압도하게 될 겁니다.
머스크로서는 이례적으로도, 그는 타당한 지적을 하면서도 수치는 과소평가했다.
모건 스탠리 애널리스트들은 오늘, 자사가 판매될 것으로 전망하는 칩들을 가동하는 데 필요한 전력량에 대한 모델을 수정했다. 이제 이들은 2028년까지 데이터센터의 총 전력 수요가 257GW에 이른다는 전제 아래, 미국의 전력 공급 능력과 판매 전망치 사이에 30~40%의 격차가 있을 것으로 추산한다. 혹은 쉽게 풀어 말하면 이렇다:
뉴욕시는 5.5~6GW의 기저부하 전력을 필요로 합니다. 즉, 우리는 뉴욕시 여섯 개 분만큼 전력이 부족한 상황입니다.
그리고 이는 혁신적인 "time-to-power" 솔루션에 관한 이들의 중간 추정치를 적용한 경우다. 이러한 완화 조치가 없다면 추정치는 뉴욕시 10개 분으로 치솟는다:
스티븐 버드(Stephen Byrd)가 이끄는 모건 스탠리(MS) 팀은 앞서 2028년까지 미국의 전력 공급이 38GW나 부족할 것으로 추산한 바 있다. 이번에 내놓은 수치는 엔비디아의 베라 루빈(Vera Rubin)과 루빈 울트라(Rubin Ultra) 아키텍처를 기반으로 구축된 더 복잡한 서버가 전력을 더 많이 끌어다 쓰는 요인을 반영한 것으로, 이는 2025년부터 2028년까지 IT 전력 수요를 5배로 불릴 위험을 안고 있다:
다소 직관에 어긋나 보일 수 있다. 엔비디아는 베라 루빈 시스템이 이전 세대보다 에이전트형(agentic) 워크로드에서 MW당 처리량이 30배나 높다고 밝힌 바 있다.
전력망 운영업체들에게 불행하게도, 모건 스탠리는 칩 효율 개선이 데이터센터 운영업체들이 같은 부지 면적에 더 많은 연산 성능을 집적해 마진을 개선할 수 있다는 것을 의미한다고 본다. 동 팀은 시스템 설계자들이 “전기 소비를 줄이기보다는 [GPU] 효율 향상을 활용해 더 많은 컴퓨팅 용량을 배치한다”고 지적한다.
데이터센터는 그동안 GPU 8개씩을 장착한 서버를 수용해 왔다. 차세대 통합 하드웨어도 비슷한 크기의 박스로 나오지만, 설치 단위당 더 많은 전력을 끌어다 쓰고 훨씬 더 뜨겁게 달아오른다. 엔비디아의 베라 루빈 NVL72 서버 랙은 GPU 72개에 CPU, 네트워크 스위치, 그리고 전원 관리와 냉각용 하드웨어까지 하나의 소형화된 패키지에 통합한다. 코위브(CoreWeave)에 따르면 일반적인 서버 랙 하나는 “동시에 가동되는 오븐 10~25대에 버금가는 열을 발생시킨다”.
구형 카드를 교체하는 단위 경제성은 합리적이다. 이 팀은 엔비디아의 호퍼(Hopper) 계열(2022년 3분기 출시)에서 루빈 울트라(2027년 하반기 출시 예정)로 전환하면 프로세서 운영의 총비용을 94% 낮출 수 있을 것으로 추산한다. 칩당 토큰 생산량은 약 15배 개선되기 때문에, 운영 비용이 더 높음에도 불구하고 와트당 토큰 처리량은 여전히 6배 개선된다.
하지만 모건 스탠리는 2027년부터는 더 조밀해진 랙이 “전력 수요의 비약적 변화”를 요구한다고 말한다. 이는 제본스 역설(Jevons paradox)의 전형적인 사례로, 효율이 개선되면 자원을 쓰기가 더 저렴해져 소비가 늘어나고, 그 결과 개별 효율 향상으로 얻은 절감 효과가 무색해지는 현상을 가리킨다.
엔비디아의 다다음 세대 칩 아키텍처인 Fenyman은 2028년 하반기 출시 예정이다. 모건 스탠리는 이번에도 비약적인 도약이 이뤄질 것이라고 본다. 버드(Byrd)와 그의 팀은 같은 역학이 작동해 2029년에는 미국 전력 수요가 전년 대비 40% 더 증가할 것으로 추정한다. 그렇게 되면 누적 전력 부족량은 107GW(대략 뉴욕시 18개 분)에 이른다.
첫 번째 그래프에 따르면, ‘time to power’(전력 공급까지의 시간 단축) 솔루션이 이 부족분을 메울 수 있다. 블룸 에너지(Bloom Energy)의 연료전지는 2028년까지 공급에 5GW를 추가할 잠재력이 있으며, 원자력발전소 내에 데이터센터를 계량기 뒤(behind-the-meter) 방식으로 배치해 2GW가 추가로 보태질 전망이다.
그럼에도 모건 스탠리의 중간 시나리오 혁신 포트폴리오 기준으로 2028년에는 누적 17GW의 부족분이 남는다. 이를 메우려면 상업적 형태로 아직 존재하지 않는 가스터빈과 오프그리드 발전기를 공급하기 위한, 아직 발표되지 않은 수많은 프로그램이 필요하다. 추정치를 1년 미래로 밀면 수치에 담긴 베이퍼웨어(vapourware)는 누적 24GW로 불어난다:
이 테마에 베팅하는 방법은 에너지를 만들거나 판매할 실행 가능한 계획을 갖춘 거의 모든 기업에 투자하는 것이라고 은행 측은 말한다. 여기에는 ‘전력 공급 셸 제공업체’(powered shell providers, 우리가 예전에 비트코인 채굴자라고 불렀던 것들), 새로운 방식의 발전 기업, 장비 공급업체가 포함된다.
모건 스탠리 리포트인 만큼, SpaceX에 대한 한 방을 노리는 매수도 함께 추천한다. 리포트는 통신 기업인 SpaceX가 최근 자체 가스터빈 블레이드와 베인을 제작하기 위해 텍사스에서 주조 공장(foundry) 기공식을 가졌으며, 머스크가 7월에 자기 돈 약 10억 달러를 들여 오프그리드 가스·디젤 발전기 공급업체 APR Energy를 인수했다고 강조하면서도, 이들 프로젝트는 여러 해에 걸치는 사업이라고 경고한다.
리포트가 제시하는 논리는 AI가 선순환 구조라는 것이다. 새로운 세대의 하드웨어가 나올 때마다 토큰을 찍어내는 단위 경제성이 개선되어 데이터센터 운영업체의 마진이 늘어나고 AI 도입률도 높아진다. 도입이 확대되면 더 복잡한 워크로드가 생기고, 이는 다시 인프라 수요를 증가시킨다.
팀은 굵은 글씨로 “그러나 이 모든 발전은 하나의 핵심 문제로 수렴한다. 전력 부족분을 메우지 못하면, 개선과 도입의 예상 속도는 시장 기대치에 부합하는 수준으로 온전히 실현되지 못할 수 있다”고 덧붙인다.
그런 시나리오에서 이 모든 빅테크 기업들의 대차대조표 외 보증이 어떻게 되는지 굳이 구체적으로 설명할 필요는 없을 것이다. 당연히 더 빠르게 증가하는 것이 결국 더 느리게 증가하는 것을 압도하게 마련이다.

Unhedged, 프리미엄, 매주 평일
로버트 암스트롱과 케이티 마틴이 가장 중요한 시장 트렌드를 낱낱이 분석하고, 월스트리트 최고의 전문가들이 이에 어떻게 대응하는지 살펴봅니다. 구독자는 매주 토요일 Unhedged: 이번 주 차트도 받아볼 수 있습니다.