Væskekølede AI-servere står over for flaskehalse

 

 

 

Med stigningen i forsendelser af Blackwell-chips vil kundernes vilje til at anvende væskekøling også stige.

Insidere fra industrien rapporterer, at udbuddet af universelle quick-disconnect-enheder (UQD) til flydende køleløsninger er ved at blive stram, hvilket kan blive en stor flaskehals for væksten af ​​AI-server væskekøling.

 

Server ODM-producenter angiver, at Nvidias Blackwell AI-chips, inklusive B100 og B200, vil begynde at sendes i år, mens GB200-løsningen først kommer i masseproduktion i slutningen af ​​2024 eller 2025. De fleste kunder af B100 og B200 bruger stadig luftkølingsdesign , men ODM-producenter rapporterer om en fortsat stigning i væskekølingspenetration, idet de forventer, at kundernes vilje til at anvende væskekøling også vil stige med stigningen i Blackwell-chipforsendelser.

 

▲ Væskekølede AI-servere

 

 

I Udvidelse af kapaciteten for at imødekomme den stigende efterspørgsel efter væskekøling

 

Relevante virksomheder udvider produktionen for at byde velkommen til den nye æra med væskekøling. Termisk modulproducent Amlogic planlægger at øge sin månedlige produktionskapacitet af vandkøleplader fra 30,000 til 300,000 enheder.

 

Auras har etableret en ny fabrik i Thailand for at imødekomme kundernes geopolitiske bekymringer og krav. Denne fabrik forventes at begynde masseproduktion i tredje kvartal. Ud over at udvide den lokale produktionskapacitet for køleplader planlægger Auras også at producere køledistributionsenheder (CDU) og kølevæskedistributionsmanifolder (CDM) lokalt med en planlagt månedlig kapacitet på ca. 2,000-3,{{2 }} sæt.

 

Termisk modulproducent AVC oplyste i sit seneste indtjeningsopkald, at dets køleplademoduls månedlige produktionskapacitet i Kina og Vietnam er omkring 115,000 enheder, hvilket svarer til en månedlig produktion på omkring 420,000 enheder, når beregnet af køleplader.

 

AVC planlægger at udvide sin kapacitet med 50% inden udgangen af ​​året. AVC planlægger også at øge sin månedlige produktionskapacitet for CDU'er til 1,000 enheder og for CDM'er til 30,000 sæt. AVC understregede, at denne planlagte kapacitet kan justeres fleksibelt baseret på kundeordrekrav.

 

Thermo Technology Company Goli Thermal Processing udvider sin kapacitet på Zhongli-fabrikken i Taiwan på grund af øget kundeefterspørgsel efter væskekøling. Ved udgangen af ​​tredje kvartal forventes den månedlige kapacitet for CDM'er at stige fra 1,000 enheder til 2,000 enheder og ved årets udgang til 4,{{5} } enheder, med en årlig CDU-produktion forventes også at nå 2,000 enheder ved årets udgang.

 

Disse producenter har høje forventninger til efterspørgsel efter væskekøling, hovedsageligt på grund af beregningseffektiviteten og PUE-standarderne for datacenter i Kina og EU, men den vigtigste faktor er, at Nvidia ophæver selvpålagte restriktioner på termiske specifikationer for chipproducenter.

 

 

II Hurtig vækst af væskekøling fører til UQD-mangel

 

Da industrien ivrigt forventer ankomsten af ​​væskekølingsæraen, er UQD blevet den største flaskehals for vækst. Termiske modulproducenter har påpeget, at udbuddet af UQD'er på det seneste er blevet stramt. Selvom den nuværende markedsandel for væskekøling kun er encifret, kan UQD'er blive svære at opnå, hvis den stiger til tocifrede i fremtiden.

 

UQD-leverandører kommer primært fra Europa og USA, såsom store amerikanske virksomheder Parker Hannifin og CPC, schweiziske Staubli International, Danmarks Danfoss og svenske Cejn. Den taiwanske stikkomponentgigant Lotes går også aktivt ind på markedet og har påbegyndt prøveleverancer.

 

Anbo Technologys formand, Liang Zhijian, påpegede, at da væskekøling primært sigter mod at undgå lækager, og UQD'er er de komponenter, der er mest tilbøjelige til at lække, er UQD-forsyningen den mest begrænsede blandt flydende kølekomponenter. Dette er ikke kun et teknisk problem; relevante producenter har også patentbeskyttelse, og Anbo Technology forsker i måder at bryde igennem disse patentbarrierer.

 

Insidere fra industrien har bemærket, at mens UQD-producenter har patentbeskyttelse, skal de også gennemgå flere valideringer, herunder OCP-certificering og klientvalidering, som er tidskrævende og arbejdskrævende. Desuden har eksisterende europæiske og amerikanske producenter ingen intentioner om at udvide kapaciteten, hvilket vil blive en stor flaskehals for den hurtige udvikling af væskekøling.

 

Supermicro er en af ​​de hurtigst voksende producenter af væskekøling. Grundlægger og administrerende direktør Liang Jianhou påpegede, at væskekøling kun har tegnet sig for 1% af servermarkedet i løbet af de sidste 30 år, men han anslår, at i 2025 vil penetrationsraten hoppe til 30%.

 

 

III Væskekøling som en potentiel løsning; AI-bom lægger pres på nettet

 

Den hurtige udvikling af generativ kunstig intelligens har drevet en hidtil uset ekspansion i datacentre, hvilket har givet anledning til bekymring over deres indvirkning på elnettet. Disse energikrævende anlæg kan føre til strømafbrydelser og øgede energiomkostninger. Ifølge estimater fra Electric Power Research Institute vil datacentre i 2030 kunne forbruge 9% af USA's elektricitet, hvilket er en fordobling af det nuværende tal. Elforbruget i et stort datacenter svarer til hundredtusindvis af husstande.

 

Det stigende strømbehov fra kunstig intelligens er særligt bekymrende. Tidlige AI-modeller forbrugte ti gange så meget energi som en Google-søgning, mens nyere chips kræver endnu mere strøm. Eksperter advarer om, at den fremtidige udvikling af kunstig intelligens kan være begrænset af vores evne til at generere tilstrækkelig strøm.

 

Nogle lande står over for alvorlige udfordringer. For eksempel kan Irland i 2026 have 30 % af sin elektricitet dedikeret til datacentre. I USA er datacentrets elforbrug koncentreret i 15 stater, hvor Texas og Virginia er de højeste. Californien er i en kritisk situation, hvor nye datacentre forventes at generere elektricitetsbehov, der overstiger atomkraftværkernes.

 

 

IV-datacentre: Enormt energiforbrug og stigningen i væskekøling

 

Beregningskravene til kunstig intelligens øger servertemperaturer og kulstofemissioner, hvilket resulterer i en betydelig stigning i efterspørgslen efter kølesystemer. Kølesystemer står for 40 % af et datacenters samlede strømforbrug, hvilket gør dem til den næststørste kilde til strømforbrug efter serverne selv. Det globale serverkølingsmarked forventes at vokse fra 20 milliarder USD i 2024 til 90 milliarder USD i 2027. Markedet for væskekølesystemer i datacentre forventes at stige fra 1 % til 22 %, hvor markedsværdien forventes at vokse fra 317 millioner USD til 7,8 milliarder dollars i de næste tre år.

 

Flydende køleløsninger, som bruger vand eller kølemidler til at køle servere, bliver stadig mere populære. Nye teknologier omfatter nedsænkningskøling (nedsænkning af hele serverracks i ikke-ledende væsker) og direkte væskekøling (cirkulerer vand omkring servere). Selvom det i øjeblikket er dyrere end luftkølesystemer, kan væskekøling reducere et datacenters strømforbrug med 10 % eller mere.

 

Analysefirmaet Global Market Insights forudsiger, at det globale marked for væskekøling for datacentre vil vokse fra 2,1 milliarder dollars i 2022 til 12,2 milliarder dollars i 2032. En undersøgelse foretaget af Uptime Institute viste, at 16 % af datacenterlederne mener, at væskekøling vil blive den primære køling. metode om 1-3 år, mens 41 % tror, ​​det vil tage 4-6 år. Derfor er der større sandsynlighed for, at hybridkølemetoder dukker op på kort sigt.

 

Upsite Technologies, en leder inden for styring af luftkølesystemer til datacentre, bemærkede, at selvom teknologien konstant udvikler sig, er det usandsynligt på kort sigt at opnå 100 % væskekølede datacentre, da væskekøleudstyr stadig kræver luftkøling til varmeafledning . Selvom væskekøling er mere effektiv, er den udfordrende at implementere i stor skala og kræver betydelige forhåndsinvesteringer. Luftkøling er billigere, men også mindre effektiv. Således bliver hybridkøleanlæg stadig mere populære for at maksimere fordelene ved både væske- og luftkøling.

 

 

V Datacenterets energikrise kræver hasteforanstaltninger

 

På grund af deres miljøpåvirkning får datacentre en stigende kontrol. Regeringer verden over implementerer regler for at kontrollere deres energiforbrug og CO2-fodaftryk. Kinas retningslinjer for "Green Data Center" og lignende initiativer i Tyskland, Singapore og Japan eksemplificerer denne tendens. Brancheeksperter som Schneider Electric understreger behovet for omfattende miljømålinger til at vurdere datacentres bæredygtighed, herunder faktorer ud over energiforbruget, såsom vandressourcer og affaldsgenerering.

 

Den amerikanske regering presser store teknologivirksomheder til at investere i ren energi og anerkende den betydelige indvirkning, som de voksende kraftkrav til kunstig intelligens har på miljøet.

 

 

VI Find egnede strømkilder: Datacenter og energiudfordringer

 

Datacentre har brug for et diversificeret energimix for at balancere pålidelighed og bæredygtighed og samtidig imødekomme stigende krav. Vedvarende energikilder som sol og vind er attraktive på grund af deres lave CO2-fodaftryk. Men deres afhængighed af vejrforhold kan føre til ustabilt output, hvilket gør dem uegnede som den eneste strømkilde til datacentre. Det kan være nødvendigt, men dyrt at bygge overflødige faciliteter for at kompensere for denne inkonsekvens.

 

Atomkraft er dukket op som en potentiel løsning. Traditionelle atomkraftværker leverer pålidelig basisbelastningskraft, der genererer stabil elektricitet, der er afgørende for datacenterdrift. Desuden forventes det globale atomkraftmarked at opnå en stabil vækst i løbet af det næste årti.

 

Innovationer i den nukleare sektor giver mere lovende muligheder. Små modulære reaktorer (SMR) udvikles som mindre, sikrere og mere skalerbare alternativer til traditionelle atomkraftværker. Selvom de stadig er i forsknings- og udviklingsstadiet, har SMR'er potentialet til at blive implementeret direkte i datacentre, hvilket giver dedikeret ren energi.

 

▲ Globalt marked for væskekøling (US$b)

 

 

Den udbredte anvendelse af SMR'er står imidlertid over for betydelige forhindringer. Regulerings- og produktionsudfordringer kan forsinke deres kommercielle udbredelse med flere år. Den amerikanske regering udforsker aktivt løsninger, herunder partnerskaber med teknologigiganter for at reducere omkostninger og strømline processer.

 

En anden måde at reducere datacentres energibehov på er at optimere kunstig intelligens-arbejdsbelastninger. Ved at flytte nogle AI-opgaver fra skyen til lokale enheder med mindre, mindre ressourcekrævende AI-modeller, kan det samlede energiforbrug reduceres.

 

Den fremtidige udvikling af datacentre kræver en mangefacetteret tilgang. At vedtage et diversificeret energimix, herunder pålidelige energikilder som atomkraft, mens man aktivt søger vedvarende og innovative løsninger som SMR'er, er afgørende. Derudover kan optimering af AI-arbejdsbelastninger på lokale enheder yderligere fremme bæredygtigheden af ​​datacentre.