Stigende efterspørgsel sætter gang i en computerkraftrevolution, flydende køling vil stærkt drive industriens vækst!

 

Siden 2023 har OpenAIs AI-chatbot-model, ChatGPT, modtaget bred anerkendelse. Den bruger store mængder træningsdata til at simulere menneskelig sprogadfærd, genererer tekst gennem semantisk analyse, så den kan interagere med brugere på en naturlig og realistisk måde, som ofte ikke kan skelnes fra menneskelig interaktion.

 

På mange områder, såsom digtskabelse og manuskriptskrivning, overgår det endda menneskelige evner. Udviklingen af ​​kunstig intelligens kræver dog ekstremt kraftig computerkraft, hvilket fører til øget serverstrømforbrug, højere strømtæthed pr. enhed i datacentre og stigende energiforbrug. Traditionel luftkølingsteknologi kan ikke længere opfylde kølebehov, hvilket gør væskekøling til en nødvendighed, der uden tvivl vil drive industriens vækst!

 

▲ OpenAIs AI chatbot-model, ChatGPT

 

 

Ⅰ Den eksplosive succes med ChatGPT: Hvilken slags computerkraft kræver det?

 

Data, algoritmer og computerkraft er de tre kerneelementer i kunstig intelligens, hvor computerkraft kaldes "motoren" eller "motoren" af AI. Både data og algoritmer er afhængige af computerkraft. Ifølge OpenAI-estimater er den computerkraft, der kræves for at træne verdens bedste AI-modeller, siden 2012 fordoblet cirka hver 3-4 måned, med en årlig stigning i den computerkraft, der kræves til toptræningsmodeller, der når så meget som tidoblet. I løbet af træningsfasen forbrugte ChatGPT i alt omkring 3640 PF-dage (hvilket betyder at køre med 1 PetaFLOP/s effektivitet i 3640 dage). Dette fremhæver, at stærk computerkraft er nøglen til at understøtte den videre anvendelse og popularisering af AI-genereret indhold (AIGC) i fremtiden.

 

Tag ChatGPT som et eksempel: den understøttes af GPT-3.5-modellen, som har gennemgået tre iterationer (GPT-1, GPT-2, GPT-3), hvor antallet af parametre stiger fra 117 millioner til 175 milliarder, og mængden af ​​før-træningsdata stiger fra 5GB til 45TB (svarende til 160 gange hele den engelske version af Wikipedia). Denne enorme mængde data og beregninger kræver højere computerkraft for at understøtte driften. Ifølge data fra Similarweb havde ChatGPT i januar 2023 omkring 13 millioner daglige aktive brugere, der hver stillede spørgsmål på i gennemsnit omkring 1,{14}} ord.

 

Dette genererede i alt cirka 13 milliarder ord (17,33 milliarder tokens). Hvis vi antager, at opgaverne er jævnt fordelt over 24 timer, ville antallet af nødvendige A100 GPU'er være 17,33 milliarder * 2 * 300 milliarder / (20 % * 24 timer * 3600 sekunder)=601.75 PetaFLOP/S. I betragtning af at der eksisterer trafikspidsbelastninger, forudsat at spidstrafik er fem gange det daglige gennemsnit, ville der være behov for i alt 602 DGX A100-servere for at imødekomme den aktuelle trafikefterspørgsel, hvilket gør kravene til computerkraft ekstremt strenge.

 

Dette illustrerer, at for at træne endnu bedre AI-modeller og virkelig anvende AI-modeller på tværs af forskellige industrier, er der behov for mere effektiv computerkraft og rigeligere computerressourcer. Computerkraft er blevet en kritisk faktor, der begrænser industrialiseringen af ​​kunstig intelligens, og det er forpligtet til at udløse en ny computerkraftrevolution! Med den hurtige stigning i efterspørgsel efter AI-computerkraft accelererer kraften af ​​relaterede CPU'er/GPU'er, hvilket nødvendiggør stærkere og mere effektive køleløsninger for at holde udstyret kørende.

 

 

Ⅱ Omfattende anvendelser af computerkraft

 

I den digitale økonomis æra er computerkraft ikke kun en nøgleproduktivitetsfaktor, men er også klar til at blive en universelt anvendt. Efterhånden som konstruktionen af ​​computerkraftinfrastruktur skrider frem, dukker der hurtigt nye modeller og forretningsformer for computerkraftapplikationer op, som dybt integrerer computerkraft i flere industrier, såsom fremstilling, transport, uddannelse, rumfart, finans og medier. Samtidig bliver tidsplanlægning, styring og handel med computerkraft ved at blive fokuspunkter for industriens udforskning. Computerkraft udvikler sig fra en "ressource" til en "faktor", der bliver en væsentlig del af menneskers produktion og liv.

 

Udviklingen af ​​forskellige industrier har udløst en eksplosion i efterspørgsel efter computerkraft. For at maksimere processorydelsen kræves der højere køleeffektivitet, og traditionel luftkølingsteknologi kan ikke længere opfylde de stigende krav til computerkraft. Væskekøleservere med deres fordele er klar til at vinde en betydelig markedsandel og stærkt drive industriudviklingen!

 

 

Ⅲ Betydelig stigning i efterspørgsel efter væskekøling

 

I 2022 så Intels fjerde generation af serverprocessorer strømforbruget til en enkelt CPU overstige 350 watt, og NVIDIAs strømforbrug til en enkelt GPU-chip oversteg 700 watt. Computerkrafttætheden for AI-klynger nåede generelt 50kW pr. kabinet, og traditionel luftkølingsteknologi kan ikke længere klare det! Højere køleeffektivitet er nødvendig for at maksimere processorydelsen.

 

I mellemtiden, set fra et politisk perspektiv, har initieringen af ​​Kinas "Eastern Data, Western Computing"-projekt og de dobbelte kulstofmål fået industrien til at være mere opmærksom på energibesparelse, emissionsreduktion og udvikling af høj kvalitet. Der er blevet stillet strengere tekniske krav til strømforbrugseffektiviteten (PUE) for datacentre, hvor den gennemsnitlige PUE for nybyggede store og superstore datacentre over hele landet skal reduceres til under 1,3 og yderligere reduceres til under 1,25 på nationalt plan. hub noder.

 

Væskekøling opfylder markedets omkostningseffektivitet og politiske vejledningsbehov i mange aspekter, herunder økonomisk effektivitet og køleydelse, hvilket gør det både meget værdifuldt og økonomisk fordelagtigt. Ifølge CCID Consulting forventes Kinas væskekølede IDC-marked at overstige 120 milliarder yuan i 2025, med en vækstrate på over 30% og en penetrationsrate i øjeblikket omkring 20%. Efterspørgslen efter væskekøling stiger markant, og markedsudsigterne er lovende.

 

 

Ⅳ Liquid Cooling Server Industry Chain

 

1. Panorama af væskekølingsindustrien

Væskekøleserverindustrien omfatter meget mere end blot væskekølingsservere; hele branchekæden er lang, med brede delfelter og mange deltagende aktører, hvilket gør det til en kapitalintensiv industri.Liquid cooling-teknologien er i øjeblikket i et rivende udviklingsstadium, og hvis de relevante aktører har fordele ved finansiering eller kundeopkøb, kan de opbygge visse adgangsbarrierer.

 

Virksomheder i forskellige underområder infiltrerer gradvist beslægtede områder baseret på deres kernefordele ved at konstruere deres egne økosystemer. Ifølge opdelingen fra infrastruktur til applikationer kan den væskekølede datacenterindustri opdeles i tre store underområder: væskekølingsinfrastruktur, midtstrømsindustri og industriapplikationer.

 

Liquid Cooling Infrastructure Sector leverer det væsentlige udstyr og faciliteter til at bygge væskekølede datacentre. Det er opdelt i underområder såsom væskekøleskabe, kølevæske, kølesystemer, strømsystemer, netværkssystemer og datacenterinfrastrukturstyringssystemer. Disse underområder leverer hovedsageligt udstyr, softwaresystemer og kølemidler til serverdrift. Derudover omfatter infrastruktursektoren entreprenører, netværksoperatører og strømleverandører. Entreprenører er ansvarlige for bygning og installation af det førnævnte udstyr og faciliteter, netværksoperatører sørger for grundlæggende netværksadgang, og strømleverandører leverer den nødvendige elektricitet til drift af udstyret. Disse områder giver et relativt grundlæggende perifert miljø til datacentre.

 

Midstream-industrien omfatter serverproducenter, udbydere af datacenterhosting og nogle nye aktører. Serverproducenter forsker i, designer og producerer servere, der egner sig til væskekølemiljøer eller producerer direkte koldplade væskekølede servere. Udbydere af datacenterhosting bygger og driver datacentre og udnytter deres egne fordele til at integrere ressourcer fra infrastruktursektoren og tilbyde serverhostingtjenester til applikationsbrugere. Efterhånden som datacentre udvikler sig hurtigt, er nye virksomheder på vej ind i det væskekølede datacenterområde.

 

Brugere af datacenterapplikationer er hovedsageligt opdelt i tre underområder: cloud computing og cloud computing power, internet og blockchain og andre brugere. De er de primære brugere af datacentre. Cloud computing og cloud computing strømudbydere genererer indtjening ved at tilbyde kunderne fleksibel datakraftallokering og planlægning gennem virtualisering. Nogle store internet- og blockchain-virksomheder bygger ofte datacentre direkte i samarbejde med datacenteroperatører, mens andre brugere generelt enten direkte hoster eller leaser server eller computerkraftressourcer fra datacenteroperatører.

 

2. Oversigt over væskekølingsindustrien

Sammenlignet med luftkøling giver flydende køleteknologi fordele ved høj stabilitet og høj køleeffektivitet. Fra et omfattende anvendelsesperspektiv afslører væskekøling gradvist sine økonomiske fordele, når effekttætheder overstiger 15 kW pr. kabinet. IfølgeUPS-applikationjournal, kan CPU-kernetemperaturen på væskekølede servere være 20-30 grader lavere end den maksimale temperatur i luftkølede systemer, hvilket forbedrer pålideligheden væsentligt.

 

Intels hvidbog,Green Data Center Innovation Practices-Cold Plate Liquid Cooling System Design Reference, angiver, at luftkølede datacentre typisk kan håndtere køling til kabinetter med effektniveauer op til 12kW. For kabinetter, der overstiger 15kW, har de eksisterende luftkølede datacentre nået loftet for deres luftkonvektionskølekapacitet. Væskekølingsteknologi, som giver stærkere køleevner, kan understøtte højere effekttætheder.

 

Sammenlignet med luftkølingsløsninger vil tendensen til væskekøling drevet af AIGC og "Eastern Data, Western Computing"-initiativerne uundgåeligt føre til en stigning i både volumen og prisen på markedet for datacentertemperaturkontrol. Den væskekølede serverindustri følger tre teknologiske ruter: koldplade, nedsænkning og spraykøling.Cold Plate Liquid Cooling involverer en kølemetode, hvor kølevæsken ikke direkte kommer i kontakt med serverens varmegenererende komponenter.

 

▲ Koldpladekøling

 

▲ Spray Liquid Cooling System

 

▲ Enfaset væskekøling

 

▲ To-faset køling

 

I stedet er de vigtigste varmegenererende komponenter fastgjort til en kold plade, hvor kølevæsken cirkulerer i den kolde plades interne væskekølesystem for at fjerne varme. For at forbedre varmevekslingskapaciteten skal varmevekslingsområdet maksimeres, hvilket kræver, at koldpladen er så tæt som muligt fastgjort til overfladen af ​​serverens varmegenererende komponenter. Uregelmæssigt formede varmegenererende komponenter er vanskelige at afkøle ved hjælp af denne metode. Kun relativt regelmæssige spåner er velegnede til koldpladekøling.

 

Dette udgør et væsentligt problem for koldplade-væskekøleløsninger: ca. 30 % af serverens varme, genereret af andre komponenter som lager, hukommelse og strømforsyninger, kræver stadig traditionel luftkøling. Dette resulterer i behovet for to kølesystemer, der skal bruges samtidigt i koldplade flydende køleløsninger, hvilket øger både omkostningerne og det faktiske system PUE. Den nuværende koldpladeløsning er relativt moden med et solidt kommercielt fundament og har allerede set adskillige kommercielle anvendelser.

 

▲ Koldplade flydende køleopløsninger

 

Immersion Liquid Cooling refererer til den fuldstændige nedsænkning af serverudstyr i kølevæske, hvor køling opnås gennem direkte kontakt mellem kølevæsken og de varmegenererende komponenter. I denne metode er serverens varmegenererende komponenter helt nedsænket i kølevæsken, hvilket giver mulighed for tilstrækkelig kontakt med kølevæsken, som kontinuerligt bortfører den genererede varme og derved afkøler serveren. Nedsænkningskøling giver højere køleeffektivitet med potentiale til at øge effekttætheden pr. kabinet med mere end tre gange. Det forventes at tegne sig for mere end 40 % af markedet i 2025, med fuld nedsænkning væskekølede servere, der sandsynligvis vil blive en fremtidig teknologisk trend.

 

▲ Nedsænket væskekøling

 

Spray Cooling Liquid Cooling System er en væskekølingsteknologi med direkte kontakt designet til præcist at sprøjte kølevæske på de varmegenererende komponenter på servere. Kølevæsken påføres direkte på de varmegenererende enheder eller faste varmeledende materialer forbundet til dem, enten ved tyngdekraft eller systemtryk. Denne proces giver mulighed for varmeudveksling for at afkøle serveren. Under varmeveksling holdes kølevæskeniveauet inde i serveren under de varmegenererende komponenter eller de faste varmeledende materialer, der er forbundet til dem. Systemet bruger eksterne varmevekslerenheder til at køle og genbruge kølevæsken.

 

 

3. Liquid Cooling Markedslandskab

Som en avanceret teknologi spænder væskekøling over flere discipliner og områder med høje tekniske barrierer.

I øjeblikket er adoptionen af ​​væskekølingsteknologi blandt indenlandske og internationale producenter af datacenterinfrastruktur stadig relativt lav, med få virksomheder, der mestrer denne teknologi.

 

Flere virksomheder både herhjemme og internationalt er dog begyndt at tilbyde skræddersyede væskekøleløsninger til deres kunder, og nogle tech-virksomheder bygger og implementerer gradvist deres egne væskekølede datacentre. På trods af dette er vedtagelseshastigheden af ​​væskekølingsteknologi blandt producenter af datacenterinfrastruktur fortsat lav, og markedet har endnu ikke set fremkomsten af ​​dominerende ledere, hvilket efterlader det konkurrencemæssige landskab stadig usikkert.

 

På det kinesiske marked har nogle virksomheder gennem mange års teknologisk ophobning og erfaring vist betydelige tekniske og markedsmæssige fordele, og det forventes, at førende virksomheder i fremtiden vil dominere markedet og danne et konkurrencepræget landskab, hvor store aktører har betydelige markedsandele .

 

4. Væskekøling på chipniveau

At reducere afstanden mellem væskekøleudstyr og kernevarmekilder som chips er en vigtig tendens. I fremtiden forventes køling at udvikle sig fra rumniveau, skabsniveau og serverniveau til chipniveau, hvorved der opnås bedre chipkøling gennem direkte kontakt mellem kølekomponenter og chipoverfladen. Væskekølere afleder varme ved at flytte store mængder varme væk gennem friktionen mellem væskestrømmen og radiatorens indre overflade. Sammenlignet med konventionelle luftkølesystemer kan væskekøling forbedre køleeffektiviteten markant. I øjeblikket er væskekølingsteknologi hovedsageligt opdelt i indirekte og direkte typer.

 

Ifølge den senesteKinas halvårlige Liquid Cooling Server Market (anden halvdel af 2022) Sporingrapport udgivet af International Data Corporation (IDC), nåede det kinesiske marked for væskekølingsservere 1,01 milliarder dollars i 2022, hvilket repræsenterer en år-til-år vækst på 189,9 %. IDC forudser, at fra 2022 til 2027 vil den sammensatte årlige vækstrate for Kinas væskekølingsservermarked nå op på 56,6%, med markedsstørrelsen, der forventes at nå 9,5 milliarder dollars i 2027, hvilket indikerer en lys fremtid for væskekølingsindustrien!

 

 

▲ Prognosen for det væskekølede servermarked i Kina fra 2023 til 2027