Written by
Matt Choi | 기술 산업 애널리스트
전/현직 배터리·수소연료전지 산업 실무자 | 현장 인사이트 제공 (2026년 9월 기준)
선풍기로는 안 된다.
AI 서버가 뿜는 열이 상상을 넘어섰다. 엔비디아의 최신 랙 ‘GB300 NVL72’는 한 대가 무려 142kW를 먹는다. 웬만한 가정 40여 채가 동시에 쓰는 전력이다. 이 전기는 대부분 열로 바뀐다. 그런데 지금까지 데이터센터 냉각의 기본은 공기였다. 커다란 에어컨으로 찬 바람을 불어넣는 방식. 문제는 간단하다. 이제 그 바람으로는 GPU를 못 식힌다. 왜 그럴까? 열이 너무 세졌기 때문이다.
그래서 업계는 방식을 통째로 바꾸고 있다. 공기가 아니라 액체로. 데이터센터 냉각의 무게중심이 흔들리는 지금, 그 이면에서 무슨 일이 벌어지고 있는지 하나씩 뜯어보자.
📌 목차 (Table of Contents)
바람으로는 감당이 안 되는 열
기존 데이터센터를 떠올려보자. 서버가 늘어선 방에 찬 공기를 밀어 넣고, 뜨거워진 공기를 빼낸다. 이 구조가 오래 통했다. 랙 하나가 10~20kW 정도 열을 냈으니까. 하지만 AI 시대의 랙은 차원이 다르다. GB200이 약 120~132kW, GB300은 142kW에 이른다. 공랭이 감당하는 한계선은 통상 랙당 30kW 안팎이다. 계산은 굳이 안 해도 된다. 격차가 4배가 넘는다.
솔직히 말해서, 이건 에어컨을 더 세게 튼다고 풀릴 문제가 아니다. 공기는 열을 나르는 능력 자체가 약하다. 같은 부피라면 물이 공기보다 약 4배 많은 열을 품는다. 게다가 GPU 하나가 뿜는 열이 1,400W에 육박한다. 헤어드라이어 두 대가 손톱만 한 칩 위에서 돌아가는 셈이다. 이 열을 바람이 훑고 지나가는 걸로는 못 잡는다. 엔비디아조차 “공기만으로는 NVL72를 식힐 수 없다”고 공식적으로 인정했다.
그래서 등장한 게 ‘직접 칩 냉각(Direct-to-Chip)’이다. 칩 바로 위에 금속판(콜드플레이트)을 붙이고, 그 안으로 냉각수를 흘려 열을 직접 끌어낸다. 바람이 방 안을 도는 게 아니라, 물이 칩을 직접 만지는 방식이다.
데이터 비교: 바람에서 물로
Before — 공랭(공기 냉각)
- 랙당 처리 한계: 약 20~30kW
- 열 운반 매체: 공기(에어컨·팬)
- 특징: 설치 간단, 오래된 검증된 방식
- 단점: 고밀도 AI 랙엔 역부족, 전력·용수 낭비 큼
After — 액체 냉각(직접칩·액침)
- 랙당 처리 한계: 142kW 이상도 대응
- 열 운반 매체: 냉각수·냉각유
- 특징: 콜드플레이트로 열 직접 흡수, CDU가 분배
- 장점: 고밀도 대응, 에너지·냉각용수 대폭 절감
핵심 차이: 바람은 열을 ‘겨우’ 밀어내고, 물은 열을 ‘직접’ 끌어낸다.
심장이 된 CDU, 그리고 온수냉각의 반전
여기서 새 주인공이 등장한다. 바로 CDU, 냉각 분배 장치(Coolant Distribution Unit)다. 냉각수를 각 랙에 알맞게 나눠 보내고, 데워진 물을 다시 식혀 순환시키는 장비다. 예전엔 보조 설비 취급이었다. 그런데 지금은 다르다. 업계는 CDU를 “AI 데이터센터 액체냉각의 심장”이라고 부른다. 냉각 경쟁이 곧 냉각액과 CDU의 경쟁으로 좁혀지고 있다는 뜻이다.
더 흥미로운 반전도 있다. 상식적으로 서버는 ‘차갑게’ 식혀야 할 것 같다. 그런데 엔비디아의 차세대 플랫폼 ‘베라 루빈’은 45℃ 온수로 식힌다. 따뜻한 물로 식힌다니, 이게 무슨 의미일까? 열이 워낙 세서, 45℃ 물조차 GPU보다는 훨씬 차갑기 때문이다. 오히려 이 방식이 이득이다. 물을 억지로 차갑게 만드는 냉동기가 거의 필요 없어진다.
어떤 기후에서는 1년 중 약 1%만 보조 냉동기를 돌리면 된다. 절감 효과가 놀랍다. 50MW급 데이터센터 기준으로 연간 냉각 관련 에너지·용수 비용을 400만 달러(약 55억 원) 넘게 아낄 수 있다. 냉각용수는 MW당 연 260만 갤런에서 거의 0까지 줄어든다. 물을 아끼려고 따뜻한 물을 쓴다. 역설적이지만, 개인적으로는 이 대목이 이번 전환의 가장 영리한 지점이라고 본다.
한편 열이 더 극단적으로 치솟는 영역에선 ‘액침냉각’도 뜬다. 서버를 통째로 특수 냉각유에 담그는 방식이다. 부품 전체가 액체에 잠기니 열을 빠짐없이 빨아들인다. 아직 주류는 직접칩 냉각이지만, 밀도가 더 오르면 액침의 자리도 커진다.
투자 인사이트: 자금이 ‘열’을 따라간다
시장의 시선은 이미 냉각으로 옮겨가고 있다. 왜냐하면 AI 반도체가 아무리 좋아도, 열을 못 잡으면 가동을 못 하기 때문이다. 냉각이 병목이 되면, 병목을 푸는 곳으로 돈이 흐른다. 실제로 데이터센터 냉각 시장은 2030년 약 55조 원 규모로 커질 것으로 전망된다. 액체냉각만 떼어봐도 수백억 달러대 시장으로 재평가되고 있다.
투자자들의 관심은 냉각 밸류체 전반으로 넓어지는 중이다. 글로벌에선 버티브(Vertiv), 슈나이더 일렉트릭, 쿨릿(CoolIT), 이튼, 엔벤트 같은 이름이 CDU·콜드플레이트 축을 쥐고 있다. 국내로 눈을 돌리면 어떨까? LG전자가 칠러와 액체냉각 솔루션으로 이 시장을 정조준하고 있고, LG CNS·오텍캐리어·융도엔지니어링 등도 데이터센터 냉각 인프라로 발을 넓히는 흐름이다. 정유업계는 냉각유라는 새 캐시카우를 저울질한다. 요컨대 자금은 지금, 연산이 아니라 그 연산이 뿜는 ‘열’을 따라 이동하고 있다.
리스크 팩터
- 표준화 리스크다. 직접칩·액침·온수냉각이 아직 표준을 두고 경쟁 중이다. 어느 방식이 주류가 될지 확정되지 않았고, 잘못된 규격에 올라탄 업체는 뒤처질 수 있다.
- 유지보수와 누수 위험이다. 물을 칩 바로 옆까지 끌어오는 구조다. 배관 하나만 새도 고가의 GPU가 손상된다. 안정성 검증이 상용화의 실질 관문이다.
- 캐펙스(CAPEX) 부담이다. 액체냉각 전환은 데이터센터를 사실상 새로 짓는 수준의 투자를 요구한다. AI 투자 사이클이 식으면 냉각 발주도 함께 미뤄질 수 있다.
- 기존 설비와의 호환 문제다. 공랭 기반으로 지어진 기존 데이터센터를 액체냉각으로 개조하는 건 생각보다 복잡하고 비싸다.
Editor’s Note
💡 현장 실무자의 뷰
숫자를 보면 방향은 명확하다. 랙당 30kW를 겨우 감당하던 냉각이, 이제 142kW를 마주하고 있다. 이 격차는 선택의 문제가 아니라 물리의 문제다. 공기로는 안 되니 액체로 갈 수밖에 없다.
시장 반응을 분석하면, 투자 서사도 반도체·전력에서 ‘냉각’으로 한 겹 더 내려가는 모습이다. 다만 냉각은 화려한 주인공이 아니라 뒤를 받치는 인프라라는 점을 기억할 필요가 있다. AI 인프라 투자가 이어지는 한 냉각 수요는 구조적으로 따라붙지만, 투자 사이클의 온도에 함께 좌우된다. 결국 이번 국면의 핵심은 하나다. 열을 잡는 자가, 다음 판을 잡는다.
🔗 참고자료
📋 3줄 핵심 요약
- 기존 랙당 30kW 한계의 공랭(에어컨) 방식으로는 엔비디아 GB300(142kW)과 같은 초고발열 AI 칩을 식힐 수 없어, 콜드플레이트와 물을 활용하는 직접칩(액체) 냉각 전환이 필수입니다.
- 냉각수를 분배하는 심장 역할의 CDU 인프라가 급부상하고 있으며, 역설적으로 45℃의 온수를 사용해 보조 냉동기를 끄는 방식이 극강의 에너지·용수 절감 효과를 입증하고 있습니다.
- 2030년 55조 원 규모로 커질 냉각 시장을 선점하기 위해 글로벌 장비 기업 및 LG전자 등 국내 인프라 기업들로 거대한 자금이 쏠리고 있습니다.
자주 묻는 질문 (FAQ)
Q1. 데이터센터 냉각은 왜 공기에서 액체로 바뀌나요?
A: AI 서버의 발열이 폭증했기 때문입니다. 공랭은 랙당 약 30kW가 한계인데, 엔비디아 GB300 랙은 142kW에 달합니다. 물이 공기보다 열을 훨씬 많이 나를 수 있어, 고밀도 AI 랙은 액체냉각이 사실상 필수가 됐습니다.
Q2. 45도 온수로 서버를 식힌다는 게 이상하지 않나요?
A: 직관과 반대로 들리지만 합리적입니다. GPU 온도가 워낙 높아 45℃ 물도 충분히 차갑게 작동합니다. 물을 억지로 차갑게 만드는 냉동기를 거의 안 써도 되니, 에너지와 냉각용수를 크게 아낄 수 있습니다.
Q3. 데이터센터 냉각 관련해 시장은 어디에 주목하나요?
A: CDU(냉각 분배 장치)와 콜드플레이트, 냉각액이 핵심으로 부상하고 있습니다. 글로벌에선 버티브·슈나이더, 국내에선 LG전자를 비롯한 냉각 인프라 기업으로 자금과 관심이 이동하는 흐름입니다. 투자 판단은 본인 책임이라는 점을 유념하세요.
Q4. 액침냉각과 직접칩 냉각은 뭐가 다른가요?
A: 직접칩 냉각은 칩 위에 금속판을 붙여 그 안으로 냉각수를 흘리는 방식입니다. 액침냉각은 서버 전체를 특수 냉각유에 통째로 담그는 방식이고요. 현재 주류는 직접칩이며, 발열이 더 극단화될수록 액침의 활용 범위가 넓어질 것으로 봅니다.
투자 유의사항: 본 콘텐츠는 기술 산업 현장 경험을 바탕으로 한 정보 제공 목적이며, 투자 자문이나 권유가 아닙니다. 모든 투자 결정은 투자자 본인의 판단과 책임 하에 이루어져야 하며, 원금 손실 가능성이 있습니다.