인공지능(AI) 반도체가 고도화 되면서 칩의 발열 문제 해결이 데이터센터 산업에 화두가 되고 있다. AI 반도체 성능과 집적도가 높아지면서 엄지 손톱 만한 칩 하나가 가정용 전기 난로 수준의 열을 내게 됐다. 그동안 표준이었던 공냉식 쿨링(팬을 이용해 열기를 식히는 방식)이 높아지는 AI 칩 온도에 한계에 부딪히자 물을 이용한 수냉식 쿨링 시스템이 데이터센터의 핵심 경쟁력으로 떠오르고 있다.
국산 냉각 스타트업 엠에이 인터넷도메인이름 치에스(MHS)가 출시를 준비하는 첫 제품인 수냉 기반 콜드플레이트 ‘르네상스(가칭)’ /사진 제공=MHS
30일 관련 업계에 따르면 국산 냉각 스타트업 엠에이치에스(MHS)는 내달 첫 제품인 수냉 기반 콜드플레이트 ‘르네상스(가칭)’를 출시할 계획이다. 현재 국내 AI반도체 회사인 퓨리오사, 리벨 진행합니다 리온 등을 고객사로 두고 있지만 해외 고객사 확보를 통해 스케일업을 노리고 있다. 엔비디아의 그래픽처리장치(GPU) RTX5090를 시작으로 다양한 AI칩에 적용하는 게 목표다. 엠에이치에스는 면적이 좁을 수록 열을 빠르게 식히는 게 어려운 만큼 공기보다 밀도가 높은 물이 빠르게 열을 뺏어가는 방식이 효율적이다 보고 이번 제품을 개발하게 됐다. 이 회사의 원피스 진행 기술이 독보적인 데는 콜드 플레이트를 가로지르는 수많은 마이크로관의 정밀도에 있다. 두 갈래, 네 갈래씩 뻗어나간 지름 0.25밀리미터(㎜)의 수많은 관에 빠르게 물이 공급된다. 실제로 내부에서 보면 얇은 관은 얇은 바늘처럼 보인다. 열유동학 전문가인 임종수 엠에이치에스 대표는 “AI칩의 발열은 단순히 온도 조절의 문제가 아니라 반도체의 성능, 전력 효율, 전세자금대출 소득증빙 인프라 운영 안정성까지 좌우하게 됐다”며 “이제는 냉각이 AI서버 운영의 핵심 요소가 되고 있다”고 설명했다.
미국 유타주 이글 마운틴에 위치한 메타의 데이터센터 전경 /AFP연합뉴스
AI칩의 포커카드 성능은 물론 AI서버의 초고집적·초고발열화 현상이 빨라지면서 최대한의 성능을 낼 수 있도록 하는 냉각 솔루션의 중요성이 커지고 있다. 엔비디아의 최신 제품인 그레이스 블랙웰 200(GB 200)을 예시로 들면 가로, 세로 각각 30밀리미터(㎜)의 작은 칩이 내는 발열 크기가 가정용 난로 수준인 1킬로와트(kW)를 넘어선 1.2kW에 달한다. 이전에 엔비디아가 출시한 호퍼 아키텍처 기반의 H100 보다 발열 수준이 두 배 가량 증가했다. 이에 따라 반도체 칩은 공냉식으로 감당하기에 한계에 부딪혔다는 설명이다. 글로벌 시장 조사 기관 트렌드포스에 따르면 올해 일반 AI 서버의 수냉식 침투율은 20%를 넘어섰고 고성능 AI 트레이닝 서버의 수냉식 침투율은 27%로 집계됐는데 내년에는 50%를 넘어설 것으로 전망된다. 지난해만 해도 AI서버의 70~90%가 공냉식 쿨링 방식을 채택했던 것과 비교하면 이례적인 수준의 변화다.
국내에서 수냉식 쿨링 시스템은 아직 태동 단계다. LG전자가 대규모 데이터센터 설비를 겨냥한 시스템 단위의 수냉 솔루션을 고도화하고 있다. 올해 5월에는 LG유플러스가 운영하는 평촌2 인터넷 데이터센터(IDC)에 냉각수 분배 장치(CDU)를 공급해 실증을 시작했다. AI 서버 내 GPU, 중앙처리장치(CPU) 등 고발열 부품에 부착된 콜드플레이트에 냉각수를 흐르게 해 열을 제거하는 방식을 택했다. 이를 바탕으로 향후 하이브리드 냉각 시스템 등 냉각 포트폴리오를 확대한다는 계획이다.
미국 오레건주 보드먼에 위치한 아마존웹서비스 데이터센터 전경/AP연합뉴스
글로벌 시장 조사기관인 베리파이드 마켓 리포츠에 따르면 지난해 15억 달러(약 2조730억 원) 수준이었던 액체 냉각 콜드플레이트 시장은 2033년 31억 달러 규모로 두 배 이상 커질 것으로 전망된다. 글로벌 AI 인프라 기업들은 이미 수냉식 전환은 기술 과제를 넘어 기업의 ESG(환경·사회·지배구조) 전략으로 진행하고 있다. 엔비디아의 협력사인 수퍼마이크로컴퓨터는 엔비디아의 GB200 기반 서버 출시에 맞춰 수냉식 쿨링 플레이트 통합 서버를 공개한 바 있다. 랙당 100kW를 초과하는 열 부하를 감당할 수 있는 수냉 전용 시스템을 설계했고 고객사 별로 맞춤형으로 칩 단위까지 쿨링 플레이트를 제공하는 시스템 지원에 나섰다. 구글은 자체 칩 텐서프로세서유닛(TPU) 인프라에 수냉 시스템을 통합하고 있다. 메타 역시 AI용 데이터센터의 쿨링 효율이 모델 학습 속도에 직결된다며 AI트레이닝 인프라에 콜드플레이트 방식을 도입했다. 정혜진 기자 madein@sedaily.com
