Come pianificare il raffreddamento a liquido per l'infrastruttura IA

La pianificazione del raffreddamento a liquido inizia prima di ordinare un server. I sistemi IA ad alta densità combinano calcolo, rete, alimentazione e gestione termica così strettamente che una struttura può avere spazio a pavimento sufficiente e tuttavia non essere in grado di far funzionare l'apparecchiatura. La domanda utile non è quindi se il liquido trasferisca calore meglio dell'aria. È se l'intero percorso, dal silicio alla dissipazione esterna del calore, possa sostenere il carico previsto in modo sicuro, continuo e manutenibile.

Un piano credibile collega cinque decisioni: il carico termico del rack, l'architettura di raffreddamento, i limiti meccanici ed elettrici dell'edificio, il modello di affidabilità e le prove richieste prima di espandere l'implementazione. Trattarne una come un esercizio di approvvigionamento separato crea un rischio di integrazione.

Traduci il piano di calcolo in un bilancio termico

Quasi tutta l'energia elettrica consumata da un rack diventa infine calore. Parti dalla configurazione prevista del rack e dall'intervallo di potenza, inclusi acceleratori, CPU, switch, moduli ottici, archiviazione e perdite di conversione dell'alimentazione. Non pianificare basandoti solo sul valore nominale di un chip. Gli acceleratori di punta possono superare un kilowatt, mentre sistemi completi a livello di rack possono raggiungere centinaia di kilowatt. La densità trasforma il calore dei componenti in un problema della struttura.

Modella almeno tre condizioni: funzionamento normale sostenuto, il carico di lavoro massimo credibile e uno stato di raffreddamento degradato. Includi la crescita se apparecchiature future possono occupare la stessa fila o lo stesso circuito. L'obiettivo non è soltanto rimuovere il calore medio, ma mantenere temperature, portata e pressione entro intervalli approvati quando i carichi variano o una parte del sistema non è disponibile.

Separa inoltre il calore catturato dal liquido dal calore residuo rilasciato nell'aria. I progetti direct-to-chip possono raffreddare processori e componenti di rete selezionati, mentre memoria, archiviazione, hardware di alimentazione o ausiliari continuano a riscaldare la sala. Alcuni progetti di rack più recenti estendono le connessioni liquide ai vassoi di calcolo e di commutazione, ma questo non fa sparire automaticamente le esigenze di gestione dell'aria della sala dati. I documenti di progetto di ciascun sistema reale devono determinare la ripartizione.

Questo bilancio termico diventa l'input comune per il layout del rack, il dimensionamento delle tubazioni, la scelta della CDU, la distribuzione dell'alimentazione, i controlli e le apparecchiature esterne. Se tali team usano ipotesi diverse, il sito può superare singole revisioni progettuali e tuttavia fallire come sistema integrato.

Scegli un'architettura in base al confine, non all'etichetta

Il “raffreddamento a liquido” descrive diverse architetture, non un unico prodotto intercambiabile. Il raffreddamento direct-to-chip pone piastre fredde contro i dispositivi che producono calore. Un circuito sul lato server trasporta il calore attraverso tubi flessibili e collettori a un'unità di distribuzione del refrigerante, o CDU. La CDU gestisce portata, pressione, temperatura e separazione tra il circuito dell'apparecchiatura e quello della struttura. Il circuito dell'edificio porta poi il calore a un dry cooler, una torre di raffreddamento, un chiller o altro sistema di dissipazione.

Il raffreddamento a immersione, invece, colloca l'apparecchiatura in un fluido dielettrico. Il suo fluido, le procedure di assistenza, la compatibilità dei componenti e le considerazioni ambientali differiscono da quelle di un circuito a piastre fredde basato sull'acqua. Una previsione di mercato o un'affermazione di un fornitore sul “raffreddamento a liquido” è incompleta se non identifica l'architettura.

Per ogni opzione, disegna l'intera catena termica e indica la responsabilità a ogni confine. Identifica chi specifica il refrigerante, chi ne mantiene la chimica, chi fornisce i controlli della CDU, chi può isolare un rack e chi risponde di una perdita o contaminazione. La responsabilità ambigua è particolarmente pericolosa all'interfaccia tra apparecchiature IT e sistemi della struttura.

Le piattaforme pubblicate possono fornire utili riferimenti progettuali senza diventare modelli universali. Il sistema GB200 NVL72 di NVIDIA collega 36 CPU Grace e 72 GPU Blackwell in un progetto a livello di rack raffreddato a liquido. L'azienda ha inoltre condiviso meccanica del rack e specifiche di raffreddamento tramite un contributo hardware aperto. Questi esempi possono ridurre l'incertezza delle interfacce, ma ogni server, struttura e ambiente operativo selezionato necessita comunque di convalida.

Verifica l'edificio prima di selezionare i componenti

Una CDU è un ponte, non un sostituto della capacità della struttura. Il sito deve accettare il calore in arrivo e dissiparlo all'esterno. Esamina percorsi di tubazioni disponibili, carico del pavimento, spazi di servizio, alimentazioni elettriche, energia di backup, integrazione dei controlli e capacità delle apparecchiature meccaniche esistenti. L'adeguamento di una sala raffreddata ad aria può richiedere modifiche ben oltre l'aggiunta di tubi accanto a un rack.

La temperatura di mandata influisce sul progetto della struttura. Un progetto del fornitore che accetta refrigerante in ingresso fino a 45 gradi Celsius può creare opportunità di dissipazione senza chiller con dry cooler. NVIDIA descrive questo approccio ad acqua calda, ma è una capacità, non un risultato valido ovunque. Clima, condizioni stagionali, temperature di approccio, carico di lavoro e apparecchiature esistenti determinano se chiller o torri di raffreddamento restano necessari.

Valuta le affermazioni su acqua ed energia al confine dell'intero sito. Un circuito chiuso può ridurre l'uso diretto di acqua, soprattutto con dry cooler, ma l'esito varia per località e progetto. Considera pompe, ventilatori, chiller, trattamento e raffreddamento residuo della sala. Confrontare l'efficienza di componenti isolati può nascondere energia spostata altrove nel sistema.

Capacità elettrica e termica devono essere messe in servizio insieme. I rack densi possono richiedere alimentazioni più grandi, sbarre collettrici, apparecchiature di distribuzione e sistemi di backup. Un progetto di raffreddamento pronto mesi prima del sistema elettrico non crea capacità di calcolo utilizzabile, e vale anche il contrario.

Progetta il contenimento dei guasti e la manutenzione

Il liquido introduce pompe, guarnizioni, connettori, valvole, sensori e qualità del fluido nel modello di disponibilità. L'obiettivo non è affermare che le perdite non avvengano mai; è impedire che un singolo guasto si propaghi e rilevare condizioni anomale prima che l'apparecchiatura subisca danni.

Definisci la ridondanza per CDU e pompe in base al dominio di guasto. Determina se una CDU serve un rack, una fila o un gruppo più grande, quindi modella cosa accade durante manutenzione e guasto. Includi valvole di isolamento, percorsi di bypass, capacità di riserva e comportamento dei controlli dopo perdita di alimentazione o comunicazioni. Un'etichetta nominale N+1 non basta se vari componenti condividono lo stesso controllore, alimentazione elettrica o circuito della struttura.

I connettori a sgancio ultrarapido dovrebbero limitare la fuoriuscita di fluido durante installazione e assistenza, ma le loro prove devono coprire accoppiamenti ripetuti, cambiamenti di temperatura, vibrazioni, variazioni di pressione e lunghi periodi operativi. Le procedure di manutenzione devono impedire che particelle e aria intrappolata entrino in passaggi stretti. I tecnici necessitano di passaggi definiti per drenare, ricollegare, spurgare, verificare la portata e rimettere l'apparecchiatura in servizio.

Il monitoraggio dovrebbe includere temperatura di mandata e ritorno, portata, pressione, condizione della pompa e segnali di umidità o perdita dove appropriato. Imposta soglie di allarme e risposte automatizzate prima della produzione. Un'azione di manutenzione completata deve essere verificata sia attraverso la telemetria di raffreddamento sia attraverso il ripristino della salute del sistema, non soltanto tramite un ordine di lavoro chiuso.

Tratta i materiali come una decisione di compatibilità a livello di sistema

Piastre fredde, connettori, tubi flessibili, collettori, guarnizioni e refrigerante devono restare compatibili nell'intervallo previsto di temperatura, pressione e vita utile. Le prestazioni della piastra fredda dipendono da geometria dei canali, qualità del legame, perdita di pressione, contatto superficiale e coerenza produttiva. I progetti a microcanali possono migliorare il trasferimento di calore vicino al dispositivo, ma passaggi stretti aumentano la sensibilità a particelle, corrosione, difetti di legame e flusso non uniforme.

Chiedi ai fornitori l'insieme di materiali qualificato anziché approvare ogni componente indipendentemente. La specifica del fluido deve trattare pulizia, controllo della corrosione, stabilità termica, manipolazione e intervalli di sostituzione. Le modifiche a un refrigerante o a un materiale bagnato dovrebbero attivare una revisione di compatibilità, poiché una sostituzione localmente accettabile può influire su guarnizioni, metalli o depositi altrove nel circuito.

Tieni separati i rischi direct-to-chip e quelli dei fluidi di immersione. I refrigeranti a base d'acqua sono comuni nei sistemi a piastre fredde. Alcuni sistemi di immersione hanno usato fluidi dielettrici fluorurati. 3M ha completato l'uscita dalla produzione di PFAS alla fine del 2025, fatto rilevante per le catene di fornitura dei fluidi interessati ma che non implica che ogni rack raffreddato a liquido dipenda da tali fluidi. L'approvvigionamento dovrebbe documentare composizione, disponibilità, gestione ambientale e piani di fine vita del fluido per l'architettura scelta.

Richiedi prove di implementazione, non solo dichiarazioni di capacità

Volumi elevati di ordini mostrano interesse, non affidabilità operativa. La prontezza dei componenti progredisce attraverso progettazione, campioni, prove di prestazione, test di produzione, qualifica del cliente, produzione ripetuta e funzionamento sul campo. Queste fasi non devono essere riunite in un'unica dichiarazione di disponibilità. Le parti di precisione possono richiedere molto più tempo per essere qualificate di quanto ne richieda la capacità di assemblaggio per espandersi.

Richiedi prove con denominatori e contesto operativo. Misure utili includono resa produttiva, risultati dei test di perdita, durata della pompa, cicli di accoppiamento dei connettori, intervalli di pressione e temperatura, manutenzione del refrigerante, incidenti sul campo, tempi di riparazione e prestazioni nelle diverse stagioni. Distingui le spedizioni di piccoli lotti dal volume qualificato e dai ricavi riconosciuti.

Le previsioni richiedono disciplina analoga. TrendForce ha previsto che la penetrazione del raffreddamento a liquido tra i chip IA salisse da circa il 33% nel 2025 al 53% nel 2026 e si avvicinasse al 60% nel 2027 nella sua prospettiva di mercato. Queste cifre descrivono una previsione per i chip IA, non l'adozione osservata in tutti i server o data center. Usa le proiezioni per pianificare scenari, quindi dimensiona gli impegni in base a calendari effettivi delle piattaforme, prontezza della costruzione e risultati della qualifica.

Sperimenta nel più piccolo dominio di guasto significativo. Esegui carichi di lavoro rappresentativi, procedure di manutenzione, eventi di failover e test di condizioni anomale. Una dimostrazione termica riuscita dimostra il trasferimento di calore nelle proprie condizioni di test; non stabilisce disponibilità su più stagioni, manutenibilità o continuità di fornitura.

Elenco di controllo dell'implementazione

Prima di approvare un progetto o espandere un pilota, conferma quanto segue:

• Carico termico: Potenza del rack, condizioni di picco, carico residuo dell'aria, crescita e ipotesi sullo stato degradato condividono un unico modello documentato.
• Architettura: Il circuito del server, la CDU, il circuito della struttura e il percorso di dissipazione del calore sono disegnati da capo a capo, con fluidi e intervalli operativi identificati.
• Idoneità della struttura: Sono stati esaminati percorsi delle tubazioni, carico del pavimento, distribuzione elettrica, energia di backup, controlli, spazi, clima, acqua e apparecchiature esterne.
• Domini di guasto: Le dipendenze di CDU, pompa, controllore, alimentazione e circuito della struttura sono mappate; isolamento e ridondanza funzionano durante la manutenzione pianificata.
• Materiali: Refrigerante, metalli, guarnizioni, tubi flessibili, connettori e piastre fredde sono qualificati come insieme, con controlli di contaminazione e corrosione.
• Assistenza: Il personale può collegare, isolare, drenare, spurgare, ispezionare e ripristinare apparecchiature usando procedure documentate e ricambi disponibili.
• Monitoraggio: Segnali di temperatura, portata, pressione, pompa e perdita hanno soglie, responsabili, percorsi di escalation e risposte testate.
• Prove: Le dichiarazioni del fornitore identificano condizioni di test, dimensione del campione, guasti, fase di produzione, stato della qualifica e durata sul campo.
• Messa in servizio: Carico termico, failover, perdita di alimentazione, allarmi, manutenzione e recupero sono testati insieme dai team di calcolo e della struttura.
• Regola di espansione: La scalabilità dipende da prove su disponibilità, incidenti, manutenzione, energia, acqua e capacità, non solo dalla consegna dei rack.

Un solido programma di raffreddamento a liquido tratta rack ed edificio come un unico sistema operativo. La densità stabilisce il problema termico; l'architettura definisce i confini; l'ingegneria della struttura sostiene il carico; i materiali proteggono il circuito; e i risultati misurati dell'implementazione determinano quando scalare. Questa sequenza trasforma il raffreddamento da aggiunta meccanica tardiva in una decisione infrastrutturale controllata.