Fremkomsten af ​​flydende køleløsninger i AI-servere: En TrendForce-analyse

 

Ⅰ Introduktion

 

Ifølge den seneste undersøgelse fra TrendForce forventes penetrationshastigheden for væskekøleløsninger at stige, drevet af den forventede forsendelse af NVIDIA Blackwell-platformen i fjerde kvartal af 2024. Denne hastighed forventes at stige fra omkring 10 % i 2024 til over 20 % i 2025. Den voksende globale bevidsthed om miljømæssige, sociale og styringsfaktorer (ESG) kombineret med den accelererede konstruktion af AI-servere af Cloud Service Providers (CSP'er), baner vejen for et betydeligt skift fra traditionel luftkøling til avancerede flydende køleløsninger.

 

Væskekøling giver flere fordele i forhold til luftkøling, herunder forbedret termisk styring, reducerede støjniveauer og øget energieffektivitet. Efterhånden som efterspørgslen efter AI-kapaciteter stiger, især i dataintensive applikationer, bliver overgangen til væskekølesystemer stadig mere kritisk for at opretholde optimal serverydeevne.

 

▲ Væskekølesystem, der bruges i AI-servermiljøer

 

 

Ⅱ NVIDIAs dominans på AI-servermarkedet

 

På det globale AI-servermarked regerer NVIDIA fortsat med en markedsandel på tæt på 90 % i GPU AI-serversegmentet fra 2024. AMD følger betydeligt med med cirka 8 % markedsandel. Denne dominans skyldes i høj grad NVIDIAs banebrydende teknologi og dets robuste økosystem, som understøtter en lang række applikationer inden for AI, maskinlæring og dataanalyse.

 

TrendForce bemærker, at forsendelsesskalaen for NVIDIA Blackwell i år er relativt lille. Det skyldes primært, at platformen gennemgår afsluttende test- og valideringsprocesser inden for forsyningskæden, som kræver løbende optimering inden for områder som højhastighedsdatatransmission og køledesign. Blackwell-platformens øgede energiforbrug, især i GB200-rackløsningen, nødvendiggør overlegen køleeffektivitet, hvilket yderligere accelererer adoptionen af ​​væskekøleløsninger.

 

▲ NVIDIA Blackwell-platform til AI-servere

 

På trods af fordelene ved væskekøling viser det nuværende serverøkosystem stadig en lav anvendelsesrate af denne teknologi. Original Design Manufacturers (ODM'er) skal navigere i en indlæringskurve for at løse udfordringer relateret til lækage og køleeffektivitet. Da andelen af ​​avancerede GPU'er på Blackwell-platformen forventes at overstige 80 % i 2025, vil dette antænde konkurrence blandt strømforsyningsproducenter og køleindustrien på det nye AI-væskekølingsmarked, hvilket fører til et nyt konkurrencepræget landskab.

 

 

 

Ⅲ Accelereret implementering af store CSP'er

 

Store cloud-tjenesteudbydere, herunder Google, AWS og Microsoft, har hurtigt accelereret deres AI-server-implementeringer i de seneste år, hovedsageligt ved hjælp af NVIDIA GPU'er og selvudviklede ASIC'er. Den termiske designeffekt (TDP) af NVIDIAs GB200 NVL72 kabinet er cirka 140 kW, hvilket understreger det presserende behov for væskekølingsløsninger til effektivt at håndtere varmeafledning. Liquid-to-Air (L2A) kølemetoder forventes at blive den almindelige tilgang i denne sammenhæng.

 

▲ AI-serverinstallation i datacentre

 

Mens NVIDIAs GPU'er dominerer, har Google også været proaktiv i at udforske væskekølingsløsninger til sine Tensor Processing Units (TPU'er). Googles forpligtelse til denne teknologi positionerer den som den mest fremadskuende amerikanske virksomhed inden for indførelse af flydende køling. BOYD og Cooler Master er de primære leverandører til Googles koldplader, som er afgørende for at opretholde optimale temperaturer i højtydende computermiljøer.

 

På det kinesiske fastland udvider Alibaba aggressivt sine datacentre til væskekøling, hvilket yderligere understreger det globale skift mod denne avancerede køleteknologi. Andre cloud-tjenesteudbydere fortsætter primært med at stole på luftkølingsløsninger til deres egenudviklede AI ASIC'er, hvilket kan hæmme ydeevnen sammenlignet med væskekølede systemer.

 

 

Ⅳ Nøgleleverandører og komponentbetegnelse

 

Efterhånden som skiftet til væskekøling tager fart, udpeger cloud-tjenesteudbydere nøglekomponentleverandører til GB200-kabinettets løsninger til væskekøling. I øjeblikket er Qihong og Cooler Master førende leverandører til kolde plader, mens manifoldkomponenter hentes fra Cooler Master og Shuanghong. Kølevæskedistributionsenheder (CDU'er) leveres af industriledere såsom Vertiv og Delta.

 

For vigtige komponenter til forebyggelse af lækage som quick disconnects (QD'er) er producenter som CPC, Parker Hannifin, Danfoss og Staubli stærkt involveret i indkøb. Efterhånden som yderligere leverandører som Jiazhe og Fushida går ind i valideringsfasen, vil de have muligheder for at levere hurtige frakoblingskomponenter i første halvdel af 2025, hvilket hjælper med at afbøde den nuværende ubalance mellem udbud og efterspørgsel.

 

▲ Nøgleleverandører til flydende kølekomponenter

 

 

Ⅴ Fordelene ved væskekøling

 

Forbedret køleeffektivitet

Væskekølesystemer er designet til at fjerne varme mere effektivt end luftkølesystemer. Dette er især vigtigt i AI-applikationer, hvor processorer kan generere betydelig varme på grund af høje beregningskrav. Ved at bruge væske til at absorbere og overføre varme væk fra komponenter, kan servere fungere ved lavere temperaturer, hvilket reducerer risikoen for termisk drosling og forbedrer ydeevnen.

 

Optimering af plads

Væskekølesystemer optager ofte mindre plads end traditionelle luftkøleløsninger, hvilket giver mulighed for mere effektivt datacenterdesign. Denne pladsbesparende egenskab er især fordelagtig for organisationer, der ønsker at maksimere deres serverkapacitet uden at udvide deres fysiske fodaftryk.

 

Energieffektivitet

Med stigende fokus på bæredygtighed og energieffektivitet kan flydende køleløsninger hjælpe med at reducere det samlede energiforbrug i datacentre. Ved at minimere afhængigheden af ​​ventilatorer og klimaanlæg kan væskekøling sænke energiomkostninger og CO2-fodaftryk, hvilket er i overensstemmelse med de ESG-mål, mange virksomheder stræber efter at opnå.

 

Støjreduktion

Væskekølesystemer fungerer mere støjsvagt end traditionelle luftkølede systemer, hvilket fører til et mere behageligt arbejdsmiljø i datacentre. Denne støjreduktion er en vigtig overvejelse for faciliteter beliggende nær befolkede områder eller inden for kontorbygninger.

 

 

Ⅵ Håndtering af fælles udfordringer

 

På trods af fordelene kommer overgangen til væskekøling med udfordringer. Disse omfatter:

 

Indledende omkostninger

Den forudgående investering for væskekølesystemer kan være højere end traditionelle luftkøleløsninger. Organisationer skal afveje disse omkostninger mod de langsigtede fordele og besparelser i energieffektivitet og vedligeholdelse.

 

Bekymringer om lækage

En af de væsentligste udfordringer forbundet med væskekøling er risikoen for utætheder. Korrekt design, materialevalg og vedligeholdelsesprotokoller er afgørende for at mindske denne risiko og sikre systemets pålidelighed.

 

Vedligeholdelseskompleksitet

Væskekølesystemer kræver mere kompleks vedligeholdelse sammenlignet med luftkølede systemer. Organisationer skal uddanne deres personale eller engagere specialiserede serviceudbydere for at sikre, at væskekølingsløsninger forbliver effektive og fri for problemer.

 

 

Ⅶ Fremtidige tendenser inden for væskekøling

 

Efterhånden som efterspørgslen efter AI-databehandling fortsætter med at stige, forventes flere fremtidige tendenser at forme det flydende kølelandskab:

 

Indførelse af hybridløsninger

Hybride kølesystemer, der kombinerer både luft- og væskekøleteknologier, vil sandsynligvis vinde trækkraft. Disse systemer kan give fleksibilitet og effektivitet, tilpasse sig forskellige arbejdsbelastninger og operationelle behov.

 

Avancerede materialer

Udviklingen af ​​avancerede materialer til flydende kølekomponenter kan forbedre ydeevnen og pålideligheden. Innovationer inden for materialevidenskab kan føre til lettere, mere holdbare og mere effektive køleløsninger.

 

Integration med AI og IoT

Integrationen af ​​AI- og IoT-teknologier i kølesystemer kan optimere ydeevnen ved at muliggøre overvågning i realtid og automatiserede justeringer baseret på miljøforhold og serverarbejdsbelastninger.

 

Fokus på bæredygtighed

Efterhånden som virksomheder i stigende grad prioriterer bæredygtighed, vil flydende køleløsninger, der anvender miljøvenlige kølemidler og materialer, blive mere udbredt. Industrien kan se et skift i retning af lukkede kredsløb for at minimere spild og miljøpåvirkning.

 

▲ Fremtidige tendenser inden for væskekølingsteknologi

 

 

 

Ⅷ Konklusion

 

Overgangen fra luft- til væskekølingsløsninger i AI-servere repræsenterer en betydelig udvikling i industrien, drevet af fremskridt inden for teknologi og den stigende efterspørgsel efter effektiv termisk styring. Med NVIDIA førende på markedet for AI-servere og store cloud-tjenesteudbydere som Google, der aktivt udforsker muligheder for væskekøling, ændrer landskabet sig hurtigt.

 

Ved at forstå fordelene og udfordringerne ved væskekøling, såvel som de nøgleaktører, der er involveret i implementeringen heraf, kan organisationer bedre positionere sig til at udnytte denne teknologi til forbedret ydeevne, bæredygtighed og konkurrenceevne i AI-landskabet. Efterhånden som industrien bevæger sig fremad, vil væskekølingsløsninger spille en afgørende rolle i at forme fremtiden for datacentre og sikre, at de kan opfylde kravene fra næste generations AI-applikationer.