AI 인프라를 위한 액체 냉각 계획 방법

액체 냉각 계획은 서버를 주문하기 전에 시작됩니다. 고밀도 AI 시스템은 컴퓨팅, 네트워킹, 전력 공급, 열 관리를 매우 긴밀하게 결합하므로 시설에 충분한 바닥 면적이 있어도 장비를 운영하지 못할 수 있습니다. 따라서 유용한 계획 질문은 액체가 공기보다 열을 더 잘 전달하는지 여부가 아닙니다. 실리콘에서 실외 열 배출까지의 전체 경로가 의도한 부하를 안전하고 지속적이며 정비 가능한 방식으로 감당할 수 있는지입니다.

신뢰할 수 있는 계획은 랙 열부하, 냉각 아키텍처, 건물의 기계적·전기적 한계, 신뢰성 모델, 그리고 배포를 확대하기 전에 필요한 증거라는 다섯 가지 결정을 연결합니다. 이 가운데 하나라도 별도 조달 작업으로 취급하면 통합 위험이 생깁니다.

컴퓨팅 계획을 열 예산으로 전환하기

랙이 소비하는 전력의 거의 전부는 결국 열이 됩니다. 가속기, CPU, 스위치, 광 모듈, 스토리지, 전력 변환 손실을 포함하는 예상 랙 구성과 전력 범위에서 시작하세요. 칩의 대표 정격만으로 계획하지 마세요. 선도적인 가속기는 1킬로와트를 넘을 수 있고, 완전한 랙 규모 시스템은 수백 킬로와트에 이를 수 있습니다. 밀도는 부품의 열을 시설 문제로 바꿉니다.

최소 세 가지 상태를 모델링하세요. 정상적인 지속 운전, 가장 높은 신뢰 가능한 워크로드, 그리고 냉각이 저하된 상태입니다. 나중에 같은 열 또는 루프에 장비가 들어갈 수 있다면 증설도 포함하세요. 목표는 평균 열을 제거하는 데 그치지 않고, 워크로드가 변하거나 시스템 일부를 사용할 수 없을 때도 온도, 유량, 압력을 승인된 범위 안에 유지하는 것입니다.

또한 액체가 포집하는 열과 공기로 방출되는 잔여 열을 구분하세요. 직접 칩 냉각 설계는 프로세서와 선택된 네트워킹 부품을 냉각할 수 있지만, 메모리, 스토리지, 전력 하드웨어 또는 보조 장치는 여전히 실내를 덥힙니다. 일부 최신 랙 설계는 컴퓨팅 트레이와 스위칭 트레이 전체로 액체 연결을 확장하지만, 그렇다고 데이터 홀의 공기 관리 필요성이 자동으로 사라지는 것은 아닙니다. 각 실제 시스템의 설계 문서가 이 구분을 결정해야 합니다.

이 열 예산은 랙 배치, 배관 크기, CDU 선택, 배전, 제어, 실외 장비를 위한 공통 입력이 됩니다. 이러한 팀이 서로 다른 가정을 사용하면 사이트는 개별 설계 검토를 통과하고도 통합 시스템으로서는 실패할 수 있습니다.

명칭이 아니라 경계에 따라 아키텍처 선택하기

“액체 냉각”은 상호 교환 가능한 하나의 제품이 아니라 여러 아키텍처를 설명합니다. 직접 칩 냉각은 열을 발생시키는 장치에 콜드 플레이트를 맞댑니다. 서버 측 루프는 호스와 매니폴드를 통해 열을 냉각수 분배 장치, 즉 CDU로 운반합니다. CDU는 유량, 압력, 온도, 그리고 장비 회로와 시설 회로 사이의 분리를 관리합니다. 그런 다음 건물 루프는 열을 드라이 쿨러, 냉각탑, 칠러 또는 다른 열 배출 시스템으로 운반합니다.

반대로 침지 냉각은 장비를 유전체 유체에 넣습니다. 그 유체, 정비 절차, 부품 호환성, 환경 고려 사항은 수계 콜드 플레이트 루프와 다릅니다. “액체 냉각”에 관한 시장 예측이나 공급업체 주장은 아키텍처를 식별하지 않으면 불완전합니다.

각 옵션에 대해 전체 열 사슬을 그리고 모든 경계에서 책임 소유를 표시하세요. 누가 냉각수를 규정하는지, 누가 그 화학적 특성을 유지하는지, 누가 CDU 제어를 공급하는지, 누가 랙을 격리할 수 있는지, 누가 누출 또는 오염 사건에 책임지는지를 식별하세요. IT 장비와 시설 시스템 사이의 접점에서는 모호한 책임이 특히 위험합니다.

공개된 플랫폼은 보편적 템플릿이 되지 않으면서도 유용한 설계 참고 자료를 제공할 수 있습니다. NVIDIA의 GB200 NVL72 시스템은 액체 냉각 랙 규모 설계에서 36개의 Grace CPU와 72개의 Blackwell GPU를 연결합니다. 이 회사는 오픈 하드웨어 기여를 통해 랙 기계 구조와 냉각 사양도 공유했습니다. 이러한 사례는 인터페이스 불확실성을 줄일 수 있지만, 선택한 모든 서버, 시설, 운영 환경은 여전히 검증이 필요합니다.

구성 요소를 선택하기 전에 건물을 시험하기

CDU는 다리 역할을 할 뿐 시설 용량을 대체하지는 않습니다. 사이트는 들어오는 열을 받아들여 실외로 배출할 수 있어야 합니다. 사용 가능한 배관 경로, 바닥 하중, 정비 여유 공간, 전력 피드, 백업 전원, 제어 통합, 기존 기계 장비의 용량을 조사하세요. 공랭식 홀을 개조하려면 랙 옆에 파이프를 추가하는 것보다 훨씬 더 많은 변경이 필요할 수 있습니다.

공급 온도는 시설 설계에 영향을 줍니다. 최대 섭씨 45도로 유입되는 냉각수를 수용하는 공급업체 설계는 드라이 쿨러를 사용한 무칠러 열 배출 기회를 만들 수 있습니다. NVIDIA는 이 온수 접근 방식을 설명하지만, 이는 역량이지 모든 곳에 적용되는 결과는 아닙니다. 기후, 계절별 날씨, 접근 온도, 워크로드, 기존 장비가 칠러나 냉각탑이 계속 필요한지를 결정합니다.

물과 에너지 주장은 사이트 전체 경계에서 평가하세요. 폐쇄 루프는 특히 드라이 쿨러와 함께 사용할 때 직접적인 물 사용을 줄일 수 있지만, 결과는 위치와 설계에 따라 달라집니다. 펌프, 팬, 칠러, 처리, 잔여 실내 냉각을 고려하세요. 고립된 구성 요소의 효율을 비교하면 시스템의 다른 곳으로 이동한 에너지를 숨길 수 있습니다.

전기 용량과 열 용량은 함께 시운전해야 합니다. 고밀도 랙에는 더 큰 피드, 버스바, 배전 장비, 백업 시스템이 필요할 수 있습니다. 전기 시스템보다 몇 달 먼저 냉각 설계가 준비되어도 사용할 수 있는 컴퓨팅 용량이 생기지 않으며, 그 반대도 마찬가지입니다.

고장 격리와 유지보수 설계하기

액체는 펌프, 씰, 커넥터, 밸브, 센서, 유체 품질을 가용성 모델에 포함시킵니다. 목표는 누출이 절대 일어나지 않는다고 주장하는 것이 아니라, 단일 고장이 확산되는 것을 막고 장비가 손상되기 전에 비정상 상태를 감지하는 것입니다.

고장 도메인에 따라 CDU와 펌프의 이중화를 정의하세요. 하나의 CDU가 랙 하나, 한 열 또는 더 큰 그룹 중 어디에 서비스를 제공하는지 결정한 다음, 유지보수와 고장 중에 어떤 일이 일어나는지 모델링하세요. 격리 밸브, 우회 경로, 예비 용량, 전력 또는 통신 상실 뒤의 제어 동작을 포함하세요. 여러 구성 요소가 같은 컨트롤러, 전력 피드 또는 시설 루프를 공유한다면 명목상의 N+1 표지만으로는 충분하지 않습니다.

초고속 분리 커넥터는 설치와 정비 중 유체 방출을 제한해야 하지만, 그 증거는 반복 결합, 온도 변화, 진동, 압력 변화, 장기간 운전을 포괄해야 합니다. 유지보수 절차는 입자와 갇힌 공기가 작은 통로로 들어가는 것을 막아야 합니다. 기술자에게는 배출, 재연결, 퍼지, 유량 확인, 장비 복구를 위한 정의된 단계가 필요합니다.

모니터링에는 적절한 경우 공급 및 반환 온도, 유량, 압력, 펌프 상태, 습기 또는 누출 신호를 포함해야 합니다. 운영 전 경보 임계값과 자동 응답을 설정하세요. 완료된 유지보수 작업은 단순히 작업 지시를 종료하는 것이 아니라 냉각 텔레메트리와 복원된 시스템 상태를 통해 모두 검증되어야 합니다.

소재를 시스템 수준의 호환성 결정으로 다루기

콜드 플레이트, 커넥터, 호스, 매니폴드, 씰, 냉각수는 예상 온도, 압력, 사용 수명 전반에서 호환성을 유지해야 합니다. 콜드 플레이트 성능은 채널 형상, 접합 품질, 압력 손실, 표면 접촉, 제조 일관성에 달려 있습니다. 마이크로채널 설계는 장치 근처의 열 전달을 개선할 수 있지만, 좁은 통로는 입자, 부식, 접합 결함, 불균일 유량에 대한 민감도를 높입니다.

각 구성 요소를 독립적으로 승인하기보다 적격 소재 세트를 공급업체에 요청하세요. 유체 사양은 청정도, 부식 제어, 열 안정성, 취급, 교체 주기를 다루어야 합니다. 국소적으로 수용 가능한 대체가 루프 다른 곳의 씰, 금속 또는 침전물에 영향을 줄 수 있으므로 냉각수 또는 젖은 소재를 바꾸면 호환성 검토가 촉발되어야 합니다.

직접 칩 냉각과 침지 유체의 위험을 분리하세요. 수계 냉각수는 콜드 플레이트 시스템에서 흔합니다. 일부 침지 시스템은 불소화 유전체 유체를 사용해 왔습니다. 3M은 2025년 말 PFAS 제조 사업 철수를 완료했으며, 이는 영향을 받는 유체 공급망과 관련 있지만 모든 액체 냉각 랙이 그러한 유체에 의존한다는 의미는 아닙니다. 조달 과정에서는 선택한 아키텍처에 대해 유체 조성, 가용성, 환경 처리, 수명 종료 계획을 문서화해야 합니다.

용량 주장만이 아니라 배포 증거 요구하기

높은 주문량은 관심을 보여 줄 뿐 운영 신뢰성을 보여 주지는 않습니다. 구성 요소 준비도는 설계, 샘플, 성능 시험, 생산 시험, 고객 적격성 검증, 반복 제조, 현장 운영을 거쳐 진행됩니다. 이 단계들을 하나의 가용성 주장으로 축소해서는 안 됩니다. 정밀 부품은 조립 용량 확대에 걸리는 시간보다 적격성 검증에 훨씬 더 오래 걸릴 수 있습니다.

분모와 운영 맥락이 포함된 증거를 요청하세요. 유용한 측정값에는 생산 수율, 누출 시험 결과, 펌프 내구성, 커넥터 결합 횟수, 압력 및 온도 범위, 냉각수 유지보수, 현장 사고, 수리 시간, 계절 전반의 성능이 포함됩니다. 소량 출하를 적격 물량 및 인식된 매출과 구분하세요.

예측에도 같은 규율이 필요합니다. TrendForce는 시장 전망에서 AI 칩 가운데 액체 냉각 침투율이 2025년 약 33%에서 2026년 53%로 상승하고 2027년에는 60%에 가까워질 것으로 예상했습니다. 이 수치는 AI 칩에 대한 예측을 설명하는 것이지 모든 서버나 데이터 센터에서 관찰된 채택을 설명하는 것은 아닙니다. 예측은 시나리오 계획에 사용하고, 실제 플랫폼 일정, 건설 준비 상태, 적격성 검증 결과에 맞춰 약정 규모를 정하세요.

가장 작으면서 의미 있는 고장 도메인에서 파일럿을 진행하세요. 대표적인 워크로드, 유지보수 절차, 페일오버 이벤트, 비정상 상태 시험을 실행하세요. 성공적인 열 시연은 시험 조건에서의 열 전달을 입증할 뿐이며, 여러 계절에 걸친 가동 시간, 정비성 또는 공급 연속성을 확립하지는 않습니다.

구현 체크리스트

설계를 승인하거나 파일럿을 확대하기 전에 다음을 확인하세요.

• 열부하: 랙 전력, 피크 상태, 잔여 공기 부하, 증설, 저하 상태 가정이 하나의 문서화된 모델을 공유합니다.
• 아키텍처: 서버 루프, CDU, 시설 루프, 열 배출 경로가 처음부터 끝까지 그려져 있고, 유체와 운영 범위가 식별되어 있습니다.
• 시설 적합성: 배관 경로, 바닥 하중, 배전, 백업 전원, 제어, 여유 공간, 기후, 물, 실외 장비를 조사했습니다.
• 고장 도메인: CDU, 펌프, 컨트롤러, 전력, 시설 루프 의존성이 매핑되어 있고, 계획된 유지보수 동안 격리와 이중화가 작동합니다.
• 소재: 냉각수, 금속, 씰, 호스, 커넥터, 콜드 플레이트가 한 세트로 적격성을 갖추었고, 오염 및 부식 제어가 있습니다.
• 정비: 직원은 문서화된 절차와 사용 가능한 예비 부품을 이용해 장비를 연결, 격리, 배출, 퍼지, 점검, 복구할 수 있습니다.
• 모니터링: 온도, 유량, 압력, 펌프, 누출 신호에 임계값, 담당자, 에스컬레이션 경로, 시험된 응답이 있습니다.
• 증거: 공급업체 주장은 시험 조건, 표본 크기, 고장, 생산 단계, 적격성 상태, 현장 기간을 식별합니다.
• 시운전: 열부하, 페일오버, 전력 상실, 경보, 유지보수, 복구를 컴퓨팅 및 시설 팀이 함께 시험합니다.
• 확장 규칙: 확장은 랙 납품만이 아니라 가동 시간, 사고, 유지보수, 에너지, 물, 용량 증거에 달려 있습니다.

건전한 액체 냉각 프로그램은 랙과 건물을 하나의 운영 시스템으로 다룹니다. 밀도는 열 문제를 정하고, 아키텍처는 경계를 정의하며, 시설 엔지니어링은 부하를 감당하고, 소재는 루프를 보호하며, 측정된 배포 결과가 확장 시점을 결정합니다. 이 순서는 냉각을 늦은 기계적 부가물에서 통제된 인프라 결정으로 바꿉니다.