2026년 AI 데이터센터 가이드: ‘전기 공장’ 옆에 지어지는 이유

2026년 8월 3일, 전남 해남 솔라시도에서 국가AI컴퓨팅센터가 첫 삽을 떴다. 총사업비 2조 5,000억 원, AI 반도체 1만 5,000장. 그런데 그날 기사에서 가장 자주 반복된 숫자는 반도체 장수가 아니었다. 전력이었다. 우선 40MW로 시작해 40MW를 더 붙여 총 80MW까지 늘린다는 계획.

왜 AI 데이터센터 이야기는 늘 전기부터 시작할까? 답은 간단하다. 이 건물의 본질이 ‘연산 공장’이 아니라 ‘전기를 열로 바꾸는 공장’이기 때문이다. 서버에 들어간 전기는 거의 100% 열로 나온다.

그러니까 AI 데이터센터를 짓는다는 건, 정해진 면적 안에 얼마나 많은 전기를 밀어 넣고 그 열을 얼마나 빨리 빼낼 수 있느냐의 싸움이 된다. 오늘은 그 싸움을 세 가지 개념으로 나눠 보려 한다. 랙 전력밀도, 냉각 방식, 그리고 PUE.

랙 한 개가 아파트 한 동만큼 먹는다

데이터센터의 기본 단위는 ‘랙’이다. 서버를 층층이 꽂는 캐비닛 한 개를 말한다. 폭 60cm, 높이 2m 남짓. 이 안에 얼마나 많은 전기를 넣느냐가 전력밀도다.

예전 웹서비스용 랙은 4~8kW를 썼다. 가정용 에어컨 몇 대 수준이었다. 그런데 지금 AI 데이터센터에 들어가는 랙은 자릿수가 다르다. 엔비디아 GB300 NVL72 한 랙의 소비전력은 132~140kW. 기존 랙의 스무 배가 넘는다.

감이 오는가? 4인 가구 한 세대의 여름철 순간 최대 부하가 대략 3~5kW다. 랙 하나가 아파트 서른 세대 몫을 먹는 거다. 그리고 해남 센터 같은 규모에는 그런 랙이 수백 개 들어간다. 80MW라는 숫자는 그렇게 만들어진다.

문제는 여기서 끝나지 않는다. 그 140kW가 전부 열이 된다. 가로세로 1m도 안 되는 공간에서 전기난로 140대가 동시에 돌아가는 상황을 떠올려 보면 된다. AI 데이터센터의 진짜 난이도는 전기를 끌어오는 쪽이 아니라, 그 열을 빼내는 쪽에 있다.

그런데 GPU는 왜 이렇게 전기를 많이 쓸까? 구조 때문이다. CPU가 복잡한 계산을 순서대로 처리하는 소수 정예라면, GPU는 단순한 곱셈·덧셈을 수만 개씩 동시에 굴리는 대군이다. AI 학습은 거대한 행렬 곱셈의 반복이라 이 구조가 압도적으로 유리하다.

다만 연산 유닛이 많다는 건 스위칭하는 트랜지스터가 많다는 말이기도 하다. 트랜지스터가 켜지고 꺼질 때마다 전력이 소모되고, 그 대부분이 열로 흩어진다.

여기에 하나가 더 붙는다. 학습 작업은 GPU 수천 장이 동시에 같은 리듬으로 돈다. 사무실 PC처럼 쉬는 시간이 없다는 의미다. 부하율이 90%를 넘는 상태가 몇 주씩 이어진다. AI 데이터센터의 전력 곡선이 유난히 평평하고 높은 이유가 여기 있다.

공랭이 무너지는 지점은 어디인가

지금까지 데이터센터는 대부분 공랭이었다. 차가운 공기를 바닥에서 올려 서버 사이로 통과시키고, 뜨거워진 공기를 위로 빼내는 방식이다. 단순하고 싸다. 그런데 이 방식에는 물리적 천장이 있다.

공기는 열을 옮기는 데 형편없는 물질이다. 밀도가 낮고 비열도 작다. 같은 열을 나르려면 어마어마한 양을 빠르게 밀어야 한다. 업계에서 공랭으로 감당 가능한 상한을 대체로 30~40kW/랙으로 본다. 그 위로 가면 팬 소음과 팬 전력이 폭발적으로 늘고, 서버 사이 온도 편차도 걷잡을 수 없어진다.

숫자를 다시 보자. 요즘 AI 랙은 132kW다. 상한의 서너 배다. 다시 말해 공랭은 이미 무너졌다.

얼마나 차이 나는지는 열전달계수로 확인할 수 있다. 공기는 10~200W/m²·K, 직접 액체냉각은 2,000~20,000W/m²·K 수준이다. 최대 100배 격차다. 액체는 밀도가 높고 비열이 커서 같은 부피로 훨씬 많은 열을 실어 나른다. AI 데이터센터가 물과 기름 쪽으로 넘어간 이유는 트렌드가 아니라 열역학이었다.

액침냉각, 서버를 기름에 담근다

액체냉각에도 갈래가 있다. 가장 널리 쓰이는 건 DLC(직접 액체냉각)다. 발열이 가장 큰 GPU와 CPU 위에 콜드플레이트라는 금속판을 붙이고, 그 안으로 냉각수를 통과시킨다. 나머지 부품은 여전히 공기로 식힌다. GB300 랙에서 열의 약 90%를 액체가, 10%를 공기가 가져가는 구조가 대표적이다.

더 극단적인 방식이 액침냉각이다. 서버 전체를 전기가 통하지 않는 절연 유체에 통째로 담근다. 기름에 컴퓨터를 빠뜨리는 그림인데, 실제로 작동한다. 유체가 전기를 흘리지 않으니 합선이 나지 않고, 부품 표면 전체가 냉각 면적이 된다.

액침냉각은 다시 둘로 나뉜다.

• 단상 방식: 유체가 액체 상태를 유지한 채 순환하며 열교환기에서 식는다. 구조가 단순하고 관리가 쉽다.
• 이상(2상) 방식: 유체가 칩 표면에서 끓어 기체가 되고, 위쪽 응축기에서 다시 액체로 돌아온다.

왜 끓이는 쪽이 유리할까? 물질이 상태를 바꿀 때 흡수하는 잠열이 온도만 올릴 때의 현열보다 훨씬 크기 때문이다. 같은 양의 유체로 훨씬 많은 열을 가져갈 수 있다. 대신 설비를 완전히 밀폐해야 하고 유지보수가 까다롭다. 효율의 2상이냐, 범용성의 1상이냐. 업계 논쟁이 아직 끝나지 않은 지점이다.

유체 자체도 만만한 소재가 아니다. 조건이 꽤 까다롭다. 전기가 통하면 안 되고, 열은 잘 옮겨야 하고, 서버의 고무·플라스틱 부품을 녹이지 않아야 한다. 수십 년간 변질되지 않는 안정성도 필요하다. 그래서 정제 광유 계열이나 합성 탄화수소, 불소계 유체가 후보로 오른다. AI 데이터센터 냉각이 결국 소재 산업의 문제로 넘어가는 대목이다.

한 가지 더 짚고 갈 부분이 있다. 액체냉각으로 바꾼다고 열이 사라지지는 않는다. 열은 옮겨질 뿐이다. 랙에서 뽑아낸 열은 배관을 타고 CDU(냉각수 분배장치)로, 다시 옥외 냉각탑이나 칠러로 넘어가 결국 대기나 물로 버려진다. AI 데이터센터 설계에서 실제로 어려운 건 칩 표면이 아니라 이 긴 열 사슬 전체를 끊김 없이 잇는 일이다.

PUE, 데이터센터의 성적표

여기서 등장하는 지표가 PUE(전력사용효율)다. 계산식은 단순하다. 데이터센터 총 전력을 IT 장비 전력으로 나눈 값이다.

PUE가 1.0이면 들어온 전기가 전부 서버로 갔다는 의미다. 현실에는 없는 숫자다. 1.5라면 서버가 1W를 쓸 때 냉각·조명·전력변환에 0.5W가 더 들어갔다는 말이 된다. 그러니까 1에 가까울수록 좋다.

국내 사정은 어떨까? 2023년 기준 국내 데이터센터 평균 PUE는 1.58 수준으로 집계됐고, 감사원 보고서는 1.76이라는 더 높은 값을 제시하기도 했다. 구글의 글로벌 평균은 1.09다. 격차가 꽤 크다.

이 차이가 왜 중요한가? 80MW짜리 AI 데이터센터에서 PUE 1.5와 1.2는 연간 수백억 원대 전기요금 차이로 벌어진다. 액체냉각이 단순히 ‘식히는 기술’이 아니라 운영비 구조를 바꾸는 설비인 이유다. 팬을 덜 돌리면 그만큼 PUE가 내려간다.

다만 PUE에도 함정이 있다. 이 지표는 ‘서버가 쓴 전기’를 분모에 그대로 놓기 때문에, 서버가 비효율적으로 돌아도 냉각만 잘하면 숫자가 좋아 보인다. 낡은 서버를 종일 놀리면서 냉각 효율만 높인 곳과, 최신 칩으로 같은 연산을 절반 전력에 끝내는 곳의 PUE가 비슷하게 나올 수 있다는 말이다. 그래서 요즘은 물 사용량을 보는 WUE, 탄소를 보는 CUE 같은 보조 지표를 함께 쓰는 흐름이다. 하나의 숫자로 건물 전체를 평가하기는 어렵다는 반성인 셈이다.

그래서 왜 하필 해남인가

이제 처음 질문으로 돌아가자. AI 데이터센터는 왜 도심이 아니라 해남 같은 곳에 지어질까? 세 가지가 겹친다.

• 첫째, 대용량 전력을 끌어올 계통 여유. 80MW를 안정적으로 받으려면 인근에 발전 설비나 굵은 송전선이 있어야 한다. 솔라시도 일대는 재생에너지 발전이 밀집한 지역이다.
• 둘째, 냉각에 쓸 물과 부지.
• 셋째, 열을 버릴 공간. 도심 한복판에서 수십 MW의 폐열을 뿜어내기는 어렵다.

전기를 ‘끌어온다’는 표현도 사실 간단하지 않다. 송전선에 흐르는 345kV를 서버가 쓰는 수백 V까지 낮추려면 변압기가 여러 단계로 필요하고, 정전에 대비한 무정전전원장치와 비상발전기도 따라붙는다. 이 설비들은 주문 후 수년을 기다려야 하는 품목이다. 그래서 요즘 AI 데이터센터 프로젝트의 실제 일정은 건물 공사가 아니라 전력 기자재 납기가 결정한다.

부지를 고르는 순서도 바뀌었다. 예전에는 땅을 먼저 정하고 전기를 신청했다. 지금은 전기를 받을 수 있는 지점을 먼저 찾고 그 옆에 건물을 세운다. 순서가 뒤집힌 거다.

전 세계 데이터센터 전력소비는 2024년 415TWh에서 2030년 945TWh로 두 배 이상 늘어난다는 게 IEA 전망이다. 일본 한 나라의 연간 전력소비와 맞먹는 규모다. 이 흐름에서 부지 선정 기준은 ‘사람이 가까운 곳’에서 ‘전기가 가까운 곳’으로 이미 옮겨 갔다.

결국 AI 데이터센터는 반도체 이야기이자 전력 인프라 이야기다. GPU 성능 경쟁의 뒤편에는 랙 전력밀도, 열전달계수, PUE 같은 오래된 공학 상수들이 버티고 있다. 다음 세대 칩이 랙당 600kW를 요구하리라는 전망까지 나온 지금, 이 제약은 더 단단해지는 중이다.

참고자료

• ZDNet Korea — 국가AI컴퓨팅센터 착공
• 블로터 — 2.5조 국가 AI센터, 2027년 조기 가동
• NVIDIA — GB300 NVL72
• 냉동공조저널 — AI 데이터센터, 공랭에서 액체로
• ZDNet Korea — 액침냉각, 효율의 2상인가 범용성의 1상인가
• DCD — IEA: Data center energy consumption to double by 2030 to 945TWh
• 기계설비신문 — 데이터센터 에너지효율 기준 원고 제공