Refwadisman likid ogmante pèfòmans ak efikasite nan platfòm Blackwell Nvidia a
Oct 14, 2024
Kite yon mesaj
Kwasans rapid entèlijans atifisyèl (AI), espesyalman nan domèn tankou Jenerative AI (GenAI) ak modèl gwo langaj (LLMs), te kondwi yon demann san parèy pou pouvwa informatique. Kòm modèl AI vin pi konplèks epi yo mande plis done, pyès ki nan konpitè ki nesesè pou sipòte avansman sa yo ap fè fas a gwo defi, patikilyèman ak dissipation chalè. Metòd refwadisman tradisyonèl yo, tankou refwadisman lè, yo pa ase ankò pou jere konsomasyon pouvwa dènye kri kenkayri AI, e sa a se kote solisyon refwadisman likid yo antre nan jwèt.
Teknoloji refwadisman likid te vin enpòtan kòm yon fason trè efikas pou jere pwodiksyon tèmik sant done AI. Li espesyalman enpòtan pou platfòm tankou achitekti Blackwell Nvidia a, kote gwo pouvwa enfòmatik mande pou sistèm refwadisman avanse pou asire pèfòmans ak lonjevite.
Nan laHotchip 2024konferans, Nvidia prezante solisyon inovatè li yo, entegredlo tyèd Dirèk nan Chip likid refwadismanteknoloji ak achitekti Blackwell li yo pou adrese defi konsomasyon pouvwa ak refwadisman k ap grandi. Devlopman sa a vle di yon avansman kle nan konsepsyon pyès ki nan konpitè AI, diminye depans operasyonèl ak amelyore efikasite nan aplikasyon AI gwo echèl.

▲ Hot Chips Tutorial: Refwadisman likid ogmante pèfòmans ak efikasite
Ogmantasyon nan Teknoloji refwadisman likid
Teknoloji refwadisman likid ap parèt kòm yon eleman enpòtan nan konsepsyon sant done AI akòz demann pouvwa k ap grandi nan chip AI. Kòm aplikasyon AI ap grandi, konsomasyon pouvwa nan sant done yo espere ogmante drastikman. Anpil processeurs AI, ki gen ladan H100 Nvidia ak nouvo li yoAchitekti Blackwell, konsome nenpòt kote soti nan 700W a 1200W nan pouvwa. Enèji imans sa a vin agrave lè gwoup AI, ki gen plizyè milye GPU, ap fonksyone ansanm.
Pou egzanp,Gwoup fòmasyon AI Elon Musk a, pi gwo a nan mond lan ak 100,000 GPU H100, konplètman refwadi likid pou jere demann enèji 31-megawatt li yo. Egzanp sa yo montre poukisa optimize teknoloji refwadisman enpòtan - non sèlman pou diminye depans operasyon yo, men tou pou amelyore pèfòmans jeneral sistèm AI yo. Kòm bezwen pou AI ki pi wo-pèfòmans kontinye ap grandi, refwadisman likid pral jwe yon wòl de pli zan pli santral nan soutni sistèm enfòmatik pèfòmans segondè.
Benefis ki genyen nan refwadisman likid nan sant done AI
Likid refwadisman kanpe deyò akòz kapasite li dirèkteman transfere chalè lwen konpozan kritik tankou CPUs ak GPUs, amelyore dissipation chalè konpare ak refwadisman lè tradisyonèl yo. NanRefwadisman likid dirèk (DLC), awozaj antre an kontak dirèk ak chip la, amelyore efikasite tèmik ak diminye bezwen an pou fanatik ankonbran ak sistèm èkondisyone. Sa a lakòz pi ba konsomasyon enèji pou refwadisman, kidonk diminye depans total operasyon sant done yo.
Anplis de sa,Immersion likid refwadisman, kote tout sèvè yo submerged nan yon likid dielectric, prezante yon solisyon refwadisman menm pi efikas. Metòd sa a pa sèlman asire tout eleman yo rete fre, men tou minimize mete mekanik, ki pwolonje lavi pyès ki nan konpitè, ak siyifikativman diminye bri ki soti nan ekipman lè-k ap deplase.
Defi konsomasyon pouvwa nan AI Materyèl
Kòm sistèm AI echèl, konsomasyon pouvwa yo prezante yon defi k ap grandi. AI pyès ki nan konpitè, tankou aNvidia H100 GPUak laAchitekti Blackwell, yo konnen yo dwe pouvwa-grangou, ak kondisyon pouvwa rive jiska 1200W pou chak chip. Yon gwoup AI tipik ki gen 22,000 GPU H100, pa egzanp, ka mande pou jiska31 megawatt elektrisite-ekivalan a konsomasyon pouvwa a nan yon ti vil.
Demann pouvwa masiv sa a non sèlman ogmante depans operasyon sant done yo, men tou kontribye nan enpak enpòtan sou anviwònman an. Pou adrese defi sa yo, sant done yo dwe konsantre sou rediksyon konsomasyon pouvwa ak amelyore efikasite refwadisman.
Achitekti Blackwell Nvidia a ak dlo cho dirèk nan refwadisman chip
Nan laHotchip 2024 konferans, Nvidia te revele solisyon li yo pou entegre refwadisman likid ak achitekti Blackwell li yo, itilizedlo tyèd Dirèk nan teknoloji refwadisman Chip. Apwòch sa a sèvi ak dlo tyèd (kontrèman ak dlo frèt) pou absòbe ak transfere chalè ki sòti dirèkteman nan chip la. Lè n ap itilize refwadisman dlo cho, Nvidia ka redwi konsomasyon pouvwa refwadisman sant done jiska 28%.
Efikasite solisyon sa a se de: li pa sèlman diminye trase pouvwa jeneral pou refwadisman, men tou li pèmèt rekiperasyon chalè fatra, ki ka repurpose pou lòt itilizasyon, tankou chofaj bilding ki tou pre yo. Anplis de sa, refwadisman dlo tyèd pwolonje lavi fonksyone sèvè yo lè li kenbe chips yo nan yon seri tanperati optimal, anpeche surchof, epi redwi mete ak chire.

▲ Dlo tyèd dirèk nan solisyon refwadisman Chip
Teknik refwadisman sa a enpòtan sitou paske aplikasyon AI tankou GenAI ak LLM yo kontinye ogmante pouvwa enfòmatik ki nesesè nan sant done yo. Kapasite pou kenbe tanperati pi bon yo afekte dirèkteman pèfòmans ak évolutivité chaj travay AI, pou asire ke sistèm sa yo ka okipe demann entansif yo mete sou yo.
Immersion likid refwadisman: yon etap pi lwen pase
Anplis de refwadisman likid dirèk,Immersion likid refwadismanse tou pran traction kòm yon solisyon pwochen nivo pou gwo echèl sistèm AI. Metòd sa a plonje tout sèvè yo nan yon likid ki pa kondiktif, dyelèktrik, ki konplètman absòbe ak gaye chalè nan tout eleman. Lè yo refwadi tout sistèm nan fason sa a, Immersion Liquid Cooling ofri avantaj sa yo:
- Ranfòse efikasite refwadisman: Lè yo antoure tout eleman yo ak likid refwadisman, metòd sa a bay retire chalè inifòm ak efikas.
- Pi ba pri antretyen: Pa gen okenn pati k ap deplase tankou fanatik, gen mwens mete mekanik, ki diminye depans antretyen ak pwolonje lavi a nan ekipman an.
- Amelyore efikasite enèji: Refwadisman imèsyon ka dramatikman redwi itilizasyon enèji, paske li elimine nesesite pou sistèm èkondisyone ak lòt konpozan refwadisman aktif.

▲ Immersion Liquid Cooling System
Anplis,Immersion likid refwadismanse trè évolutive, sa ki fè li ideyal pou sant done yo manyen chaj travay AI ki jenere kantite siyifikatif chalè, tankou sa yo ki mache ak achitekti Blackwell Nvidia a. Ak pi gwo modèl AI vin pi répandus, refwadisman imèsyon ka vin yon solisyon pou sant done k ap chèche echèl operasyon yo pandan y ap minimize depans enèji ak enpak anviwònman an.
Envestisman Silicon Valley nan teknoloji refwadisman
Demann k ap monte pou solisyon refwadisman pi efikas nan sant done AI te atire atansyon konpayi kapital risk, patikilyèman nanSilisyòm Valley. Konpayi sa yo ap aktivman envesti nan demaraj ki espesyalize nanrefwadisman likidteknoloji, rekonèt ke inovasyon nan domèn sa a esansyèl pou lavni pyès ki nan konpitè AI.
Startups devlopesolisyon refwadisman avansenon sèlman bay benefis imedya pou sistèm AI jenerasyon aktyèl la, men tou mete baz pou pwochen vag pyès ki nan konpitè AI, ki pral gen anpil chans mande metòd refwadisman menm pi sofistike. Teknoloji sa yo bezwen adrese tou de kondisyon gwo pouvwa ak defi tèmik nan sistèm AI, sa ki fè yo yon envestisman atire pou moun k ap chèche pouse limit yo nan sa ki posib nan enfòmatik pèfòmans segondè.

▲AI Tandans Envestisman Done Sant
Konklizyon
Kòm pyès ki nan konpitè AI ap kontinye evolye, demann pou teknoloji refwadisman inovatè ap grandi. Nvidia aAchitekti Blackwellse nan forefront de chanjman sa a, utilisantdlo tyèd Dirèk nan Chiprefwadisman pou ranfòse efikasite epi redwi depans operasyon yo.Refwadisman likid, si wi ou non atravè kontak dirèk oswa metòd imèsyon, se pwouve yo dwe fason ki pi efikas nan jere konsomasyon pouvwa a masiv ak pwodiksyon chalè nan sistèm modèn AI.
Konpayi kapital risk yo pran avi, ak anpil envesti nan demaraj ki ka ofri solisyon refwadisman pwochen jenerasyon. Kòm sant done AI yo vin pi gwo ak pi konplèks, enpòtans ki genyen nan sistèm refwadisman efikas ak évolutive pral sèlman ogmante, fè refwadisman likid yon poto nan enfrastrikti enfòmatik pèfòmans segondè nan lavni.
