AI 데이터센터를 이야기할 때 전력 소비만큼 중요하게 살펴봐야 하는 것이 바로 냉각입니다. GPU와 CPU는 연산을 수행하면서 상당한 열을 발생시키기 때문에 데이터센터는 이 열을 빠르게 제거해야 합니다. 특히 AI 학습과 추론에 사용되는 GPU 서버는 일반적인 기업용 서버보다 높은 전력 밀도를 갖는 경우가 많아 기존의 공랭식 냉각 방식만으로는 대응하기 어려운 상황이 나타나고 있습니다.

공랭식 냉각이란 무엇일까?

공랭식 냉각은 말 그대로 공기를 이용해 서버에서 발생하는 열을 제거하는 방식입니다. 서버 내부의 팬이 뜨거워진 공기를 이동시키고, 데이터센터의 냉각 장비가 실내 공기의 온도를 낮춰 다시 서버로 공급하는 구조입니다.

전통적인 데이터센터에서는 이 방식이 오랫동안 표준으로 사용됐습니다. 서버의 발열량이 현재보다 낮았고, 랙 하나에 들어가는 장비의 전력 밀도도 상대적으로 낮았기 때문입니다.

하지만 AI 서버가 등장하면서 상황이 달라지고 있습니다.

AI 학습용 GPU는 높은 연산 성능을 지속적으로 사용하기 때문에 상당한 열을 발생시킵니다. 결국 서버 한 대의 문제가 아니라 랙 전체에서 발생하는 열의 양이 커지게 됩니다.

랙 전력 밀도가 높아지면 왜 문제가 될까?

데이터센터 냉각의 핵심은 단순히 실내 온도를 낮추는 것이 아닙니다. 특정 위치에서 발생하는 열을 안정적으로 제거하는 것이 중요합니다.

예를 들어 한 랙의 전력 사용량이 크게 증가하면 그 랙에서 발생하는 열도 함께 증가합니다. 주변 랙보다 훨씬 뜨거운 영역이 만들어질 수 있고, 이를 흔히 핫스팟이라고 부릅니다.

공랭식 냉각에서는 공기의 열전달 능력과 공기 흐름에 한계가 있기 때문에 고밀도 랙이 많아질수록 냉각 설계가 어려워집니다.

NVIDIA도 최근 AI 인프라에서 랙당 전력 밀도가 크게 높아지고 있으며, 이러한 변화가 기존 냉각 방식의 한계를 키우고 있다고 설명하고 있습니다.

단순히 에어컨을 더 설치하면 해결될까?

여기서 중요한 문제가 하나 있습니다.

“서버가 뜨거우면 냉각장치를 더 설치하면 되는 것 아닌가?”라고 생각할 수 있지만 실제 데이터센터에서는 그렇게 간단하지 않습니다.

냉각장치를 추가하면 냉각을 위한 전력 소비도 증가합니다. 냉각 장비 자체가 전기를 사용하고, 펌프와 팬, 냉동기 등의 설비도 추가적으로 작동해야 합니다.

결국 서버의 전력 소비가 증가하면 냉각 전력도 함께 증가하는 구조가 만들어집니다.

이 때문에 AI 데이터센터에서는 단순히 냉각 용량을 늘리는 것보다 어떻게 열을 더 효율적으로 제거할 것인지가 중요한 문제가 됩니다.

공랭식 냉각이 완전히 사라지는 것은 아니다

그렇다고 공랭식 냉각이 앞으로 모두 사라진다는 의미는 아닙니다.

일반적인 서버나 상대적으로 낮은 전력 밀도의 장비에서는 공랭식 냉각이 여전히 경제적이고 관리하기 쉬운 방법입니다.

문제는 모든 서버를 동일한 냉각 방식으로 처리하기 어려워지고 있다는 점입니다.

앞으로의 데이터센터는 일반 서버 구역에는 공랭식을 사용하면서 고밀도 AI 서버 구역에는 액체냉각을 적용하는 식의 혼합형 구조가 나타날 가능성이 높습니다.

결론

AI 데이터센터에서 공랭식 냉각의 한계가 나타나는 가장 큰 이유는 GPU 성능 증가와 랙 전력 밀도 증가입니다.

AI 서버의 전력 사용량이 증가하면 열 발생량도 증가합니다. 그리고 열을 제거하기 위해 더 많은 냉각 에너지가 필요해집니다.

따라서 AI 데이터센터의 핵심 경쟁력은 GPU 개수뿐 아니라 전력 공급과 냉각 능력을 얼마나 효율적으로 연결하느냐에 달려 있습니다.