Flydende køling øger ydeevnen og effektiviteten af ​​Nvidias Blackwell-platform

 

Den hurtige vækst af kunstig intelligens (AI), især inden for områder som Generative AI (GenAI) og store sprogmodeller (LLM'er), har drevet en hidtil uset efterspørgsel efter computerkraft. Efterhånden som AI-modeller bliver mere komplekse og kræver flere data, står den nødvendige hardware til at understøtte disse fremskridt over for betydelige udfordringer, især med varmeafledning. Traditionelle kølemetoder, som luftkøling, er ikke længere tilstrækkelige til at styre strømforbruget af banebrydende AI-hardware, og det er her, flydende køleløsninger kommer i spil.

 

Væskekølingsteknologi har vundet frem som en yderst effektiv måde at styre den termiske output fra AI-datacentre. Det er især afgørende for platforme som Nvidias Blackwell-arkitektur, hvor den enorme beregningskraft kræver avancerede kølesystemer for at sikre ydeevne og lang levetid.

 

HosHotchip 2024konference, introducerede Nvidia sin innovative løsning, integrerendevarmt vand Direct to Chip væskekølingteknologi med sin Blackwell-arkitektur til at løse monteringsstrømforbruget og køleudfordringerne. Denne udvikling betyder et vigtigt fremskridt inden for AI-hardwaredesign, hvilket reducerer driftsomkostningerne og forbedrer effektiviteten i store AI-applikationer.

 

▲ Hot Chips Tutorial: Flydende køling øger ydeevne og effektivitet

 

Fremkomsten af ​​Liquid Cooling Technology

 

Væskekølingsteknologi dukker op som en kritisk komponent i AI-datacenterdesign på grund af AI-chips voksende strømbehov. Efterhånden som AI-applikationer vokser, forventes strømforbruget i datacentre at stige drastisk. Mange AI-processorer, herunder Nvidias H100 og dens nyeBlackwell arkitektur, bruger alt fra 700W til 1200W strøm. Dette enorme energitræk forværres, når AI-klynger, der består af tusindvis af GPU'er, fungerer i forening.

 

f.eks.Elon Musks AI træningsklynge, den største i verden med 100,000 H100 GPU'er, er fuldstændig væskekølet til at håndtere sit 31-megawatt-energibehov. Sådanne eksempler viser, hvorfor optimering af køleteknologi er kritisk - ikke kun for at reducere driftsomkostningerne, men også for at forbedre den overordnede ydeevne af AI-systemer. Efterhånden som behovet for højtydende kunstig intelligens fortsætter med at vokse, vil væskekøling spille en stadig mere central rolle i opretholdelsen af ​​højtydende computersystemer.

 

 

Fordelene ved flydende køling i AI-datacentre

Væskekøling skiller sig ud på grund af dens evne til direkte at overføre varme væk fra kritiske komponenter som CPU'er og GPU'er, hvilket forbedrer varmeafledningen sammenlignet med traditionel luftkøling. IDirect Liquid Cooling (DLC), kommer kølevæske i direkte kontakt med chippen, hvilket øger den termiske effektivitet og reducerer behovet for omfangsrige blæsere og klimaanlæg. Dette resulterer i et lavere energiforbrug til køling og reducerer derved de samlede driftsomkostninger for datacentret.

 

DesudenNedsænket væskekøling, hvor hele servere er nedsænket i en dielektrisk væske, præsenterer en endnu mere effektiv køleløsning. Denne metode sikrer ikke kun, at alle komponenter forbliver kølige, men minimerer også mekanisk slid, hvilket forlænger hardwarens levetid og reducerer støjen fra luftbevægende udstyr betydeligt.

 

 

Strømforbrugsudfordringer i AI-hardware

 

Efterhånden som AI-systemer skaleres, udgør deres strømforbrug en voksende udfordring. AI-hardware, såsomNvidia H100 GPUog denBlackwell arkitektur, er kendt for at være strømkrævende, med strømkrav, der når op til 1200W pr. chip. En typisk AI-klynge, der f.eks. indeholder 22,000 H100 GPU'er, kan kræve op til31 megawatt elektricitet-svarende til strømforbruget i en lille by.

 

Dette massive strømbehov øger ikke kun driftsomkostningerne for datacentre, men bidrager også til betydelige miljøpåvirkninger. For at løse disse udfordringer skal datacentre fokusere på både reduktion af strømforbruget og forbedring af køleeffektiviteten.

 

 

Nvidias Blackwell Architecture og Warm Water Direct to Chip Cooling

 

HosHotchip 2024 konference, afslørede Nvidia sin løsning til at integrere væskekøling med sin Blackwell-arkitektur ved at brugevarmt vand Direct to Chip køleteknologi. Denne tilgang bruger varmt vand (i modsætning til afkølet vand) til at absorbere og overføre varme direkte fra chippen. Ved at anvende varmtvandskøling kan Nvidia reducere kølestrømforbruget i datacentre med op til 28 %.

 

Effektiviteten af ​​denne løsning er dobbelt: den reducerer ikke kun det samlede strømforbrug til køling, men muliggør også genvinding af spildvarme, som kan genanvendes til andre formål, såsom opvarmning af nærliggende bygninger. Derudover forlænger varmtvandskøling servernes driftslevetid ved at holde chipsene inden for optimale temperaturområder, forhindre overophedning og reducere slitage.

 

▲Varmt vand direkte til spånkøleopløsning

 

Denne køleteknik er især vigtig, da AI-applikationer som GenAI og LLM'er fortsætter med at øge den beregningskraft, der kræves i datacentre. Evnen til at opretholde optimale temperaturer påvirker direkte ydeevnen og skalerbarheden af ​​AI-arbejdsbelastninger, hvilket sikrer, at disse systemer kan håndtere de intensive krav, der stilles til dem.

 

 

 

Nedsænket væskekøling: et skridt videre

 

Ud over direkte væskekøling,Nedsænket væskekølingvinder også indpas som en næste-level-løsning til store AI-systemer. Denne metode nedsænker hele servere i en ikke-ledende, dielektrisk væske, som fuldt ud absorberer og afleder varme fra alle komponenter. Ved at køle hele systemet på denne måde giver Immersion Liquid Cooling følgende fordele:

 

• Forbedret køleeffektivitet: Ved at omgive alle komponenter med kølevæske giver denne metode en ensartet og effektiv varmefjernelse.
• Lavere vedligeholdelsesomkostninger: Uden bevægelige dele såsom blæsere er der mindre mekanisk slid, hvilket reducerer vedligeholdelsesomkostningerne og forlænger udstyrets levetid.
• Forbedret energieffektivitet: Nedsænket køling kan dramatisk reducere energiforbruget, da det eliminerer behovet for klimaanlæg og andre aktive kølekomponenter.

 

▲Immersion Liquid Cooling System

 

DesudenNedsænket væskekølinger meget skalerbar, hvilket gør den ideel til datacentre, der håndterer AI-arbejdsbelastninger, der genererer betydelige mængder varme, såsom dem, der drives af Nvidias Blackwell-arkitektur. Med større AI-modeller, der bliver mere udbredt, kan nedsænkningskøling blive en go-to-løsning for datacentre, der ønsker at skalere deres drift og samtidig minimere energiomkostninger og miljøpåvirkning.

 

 

 

Silicon Valleys investering i køleteknologier

 

Den stigende efterspørgsel efter mere effektive køleløsninger i AI-datacentre har fanget opmærksomheden hos venturekapitalfirmaer, især iSilicon Valley. Disse firmaer investerer aktivt i startups, der specialiserer sig ivæskekølingteknologier, der anerkender, at innovationer på dette område er afgørende for fremtiden for AI-hardware.

 

Startups under udviklingavancerede køleløsningergiver ikke kun umiddelbare fordele for den nuværende generation af AI-systemer, men lægger også grunden til den næste bølge af AI-hardware, som sandsynligvis vil kræve endnu mere sofistikerede kølemetoder. Disse teknologier skal løse både de høje strømkrav og de termiske udfordringer ved AI-systemer, hvilket gør dem til en attraktiv investering for dem, der ønsker at skubbe grænserne for, hvad der er muligt inden for højtydende databehandling.

 

▲AI-datacenter-investeringstendenser

 

 

Konklusion

 

I takt med at AI-hardware fortsætter med at udvikle sig, vokser efterspørgslen efter innovative køleteknologier. Nvidia'sBlackwell arkitekturer på forkant med dette skift, ved at udnyttevarmt vand direkte til chipkøling for at øge effektiviteten og reducere driftsomkostningerne.Væskekøling, uanset om det er gennem direkte kontakt eller nedsænkningsmetoder, har vist sig at være den mest effektive måde at styre det massive strømforbrug og varmeoutput fra moderne AI-systemer.

 

Venturekapitalfirmaer lægger mærke til det, og mange investerer i startups, der kan tilbyde næste generations køleløsninger. Efterhånden som AI-datacentre bliver større og mere komplekse, vil betydningen af ​​effektive og skalerbare kølesystemer kun stige, hvilket gør væskekøling til en hjørnesten i fremtidens højtydende computerinfrastruktur.