인공지능 서비스가 빠르게 확산하면서 최근 데이터센터의 전력 소비가 중요한 문제로 떠오르고 있습니다. 특히 생성형 AI를 처리하는 AI 데이터센터는 기존의 일반 데이터센터보다 높은 전력 밀도를 요구하는 경우가 많습니다.
그렇다면 AI 데이터센터는 왜 이렇게 많은 전기를 필요로 하는 것일까요?
단순히 컴퓨터가 많기 때문이라고 생각하기 쉽지만 실제로는 AI 연산에 사용되는 GPU와 가속기의 높은 전력 소비, 고밀도 서버 구성, 그리고 이를 식히기 위한 냉각 시스템이 함께 작용합니다.
AI 데이터센터와 일반 데이터센터의 차이
일반적인 데이터센터에서는 웹사이트 운영, 데이터 저장, 기업용 애플리케이션, 데이터베이스 등 다양한 작업이 이루어집니다.
반면 AI 데이터센터에서는 대규모 AI 모델을 학습시키거나 추론하는 작업이 이루어집니다. 이러한 작업에는 CPU만 사용하는 일반 서버보다 GPU와 같은 고성능 연산 가속기가 적극적으로 활용됩니다.
GPU는 동시에 매우 많은 계산을 수행하도록 설계되어 AI 연산에 적합합니다. 문제는 성능이 높아질수록 소비하는 전력과 발생하는 열도 커진다는 것입니다.
IEA에 따르면 2024년 현대적인 데이터센터에서 서버와 같은 IT 장비가 전체 전력 소비에서 차지하는 비중은 평균적으로 약 60% 수준이며, 냉각 시스템 역시 데이터센터 유형에 따라 상당한 전력을 소비합니다.
즉, AI 데이터센터의 전력 문제는 단순히 GPU의 전력만 계산해서 끝나는 것이 아닙니다.
GPU에 전력을 공급해야 하고, GPU에서 발생한 열을 제거해야 하며, 네트워크 장비와 저장장치, UPS 등의 시설도 함께 작동해야 합니다.
GPU가 많아지면 전력 소비도 증가한다
AI 데이터센터의 핵심은 고성능 GPU를 여러 개 연결해 하나의 거대한 연산 시스템처럼 사용하는 것입니다.
AI 모델이 커질수록 필요한 연산량도 증가합니다. 이에 따라 데이터센터 운영자는 더 많은 GPU를 연결하거나 더 높은 성능의 가속기를 사용하게 됩니다.
이 과정에서 중요한 개념이 바로 전력 밀도입니다.
일반적인 데이터센터에서는 하나의 서버 랙이 사용하는 전력이 상대적으로 낮을 수 있지만 AI 서버가 집중된 랙에서는 훨씬 높은 전력 밀도가 발생할 수 있습니다.
전력 밀도가 높아지면 데이터센터 설계 자체가 달라집니다.
전기 케이블과 배전 장비의 용량을 키워야 하고, 변압기와 UPS 역시 더 높은 부하를 견딜 수 있어야 합니다. 동시에 냉각 설비의 용량도 증가해야 합니다.
결국 GPU의 성능 향상은 데이터센터 내부에서 전력과 냉각이라는 두 가지 문제를 동시에 발생시키는 셈입니다.
전기를 많이 사용하는 것은 GPU뿐이 아니다
AI 데이터센터를 이야기할 때 GPU에만 관심을 갖기 쉽지만 실제 전력 소비 구조는 훨씬 복잡합니다.
서버 외에도 네트워크 장비, 스토리지, 냉각 시스템, UPS, 조명과 각종 설비가 전력을 사용합니다.
특히 냉각은 AI 데이터센터에서 점점 중요한 문제가 되고 있습니다.
전기를 사용해 연산을 수행하면 대부분의 에너지는 결국 열의 형태로 나타납니다. 따라서 서버의 성능이 높아질수록 발생하는 열을 효과적으로 제거해야 합니다.
IEA 자료에 따르면 냉각과 환경 제어 시스템이 데이터센터 전체 전력에서 차지하는 비중은 효율적인 하이퍼스케일 데이터센터에서는 약 7% 수준까지 낮아질 수 있지만, 효율이 낮은 기업용 데이터센터에서는 30%를 넘기도 합니다.
따라서 AI 데이터센터에서는 서버의 전력 효율뿐 아니라 냉각 효율도 매우 중요합니다.
AI 때문에 데이터센터 전력 문제가 커지는 이유
AI 서비스가 빠르게 확산되면서 데이터센터에 필요한 연산량도 증가하고 있습니다.
IEA는 전 세계 데이터센터 전력 소비가 2024년 약 415TWh에서 2030년 약 945TWh로 두 배 이상 증가할 것으로 전망하고 있습니다. 특히 AI에 사용되는 가속 서버의 전력 소비가 이러한 증가를 이끄는 주요 요인 중 하나로 분석됩니다.
여기서 중요한 것은 데이터센터의 전력 소비가 단순히 세계 전체 전력 소비에서 차지하는 비중만으로 판단하기 어렵다는 점입니다.
데이터센터는 특정 지역에 매우 집중되는 특징이 있습니다.
예를 들어 한 지역에 대규모 AI 데이터센터가 여러 곳 건설되면 해당 지역의 전력망에는 상당한 추가 부하가 발생할 수 있습니다. 발전소에서 생산된 전력을 데이터센터까지 전달하기 위한 송전망과 변전 설비도 함께 확충해야 합니다.
따라서 AI 데이터센터를 건설할 때는 단순히 건물을 지을 공간만 확보해서는 부족합니다.
충분한 전력을 공급할 수 있는가?
전력망이 추가 부하를 견딜 수 있는가?
변압기와 배전 설비를 확보할 수 있는가?
서버에서 발생하는 열을 처리할 수 있는가?
이러한 질문을 함께 검토해야 합니다.
앞으로는 ‘GPU 확보’만큼 ‘전력 확보’가 중요해진다
AI 산업의 경쟁에서 지금까지 가장 많은 관심을 받은 것은 GPU와 AI 반도체였습니다.
하지만 AI 모델의 규모가 커지고 데이터센터가 대형화되면서 앞으로는 충분한 전력을 안정적으로 공급할 수 있는 능력도 중요한 경쟁력이 될 가능성이 높습니다.
IEA 역시 데이터센터가 빠르게 건설되는 반면 전력 인프라는 발전과 송전망 구축에 더 긴 시간이 필요하기 때문에 전력 공급망의 병목이 데이터센터 확장의 중요한 제약이 될 수 있다고 분석합니다.
결국 AI 데이터센터의 핵심은 단순히 컴퓨터를 많이 설치하는 것이 아닙니다.
전력 공급 → 서버 → 네트워크 → 냉각 → 전력망이 하나의 시스템으로 연결되어 있습니다.
앞으로 AI 산업을 이해하기 위해서는 GPU 성능뿐만 아니라 AI 데이터센터가 얼마나 많은 전력을 필요로 하고, 그 전력을 어떻게 안정적으로 공급하며, 발생한 열을 어떻게 처리하는지까지 함께 살펴볼 필요가 있습니다.
AI 시대의 데이터센터 경쟁은 결국 컴퓨팅 성능과 전력 인프라의 경쟁으로 확대되고 있기 때문입니다.