एआई डेटा सेंटर पावर चुनौतियां: रैक बाधाओं को ठीक करें

एआई डेटा सेंटर बिजली बुनियादी ढांचे के डिजाइन के नियमों को फिर से लिख रहे हैं। पारंपरिक सीपीयू सर्वर का एक रैक एक बार लगभग 10 किलोवाट का होता था। एक पूरी तरह से कॉन्फ़िगर किया गया NVIDIA GB200 NVL72 रैक अब लगभग 120 किलोवाट खींचता है, और 2026 के रोडमैप पहले से ही 600 किलोवाट तक पहुंचने वाले रैक की ओर इशारा करते हैं। उसी समय,अंतर्राष्ट्रीय ऊर्जा एजेंसी को उम्मीद है कि 2030 तक वैश्विक डेटा सेंटर बिजली की मांग दोगुनी से अधिक होकर लगभग 945 TWh हो जाएगीएआई सबसे बड़ा चालक है। ऑपरेटरों के लिए, यह मूल प्रश्न को बदल देता है। यह इतने समय से अधिक पुराना नहीं है"क्या हमारे पास पर्याप्त कुल क्षमता है?"लेकिन"क्या हमारा पावर आर्किटेक्चर यूटिलिटी कनेक्शन से प्रत्येक उच्च -घनत्व वाले जीपीयू रैक तक स्वच्छ, अनावश्यक और दृश्यमान पावर प्रदान कर सकता है?"

AI रैक को वास्तव में कितनी शक्ति की आवश्यकता होती है?

"काफ़ी अधिक शक्ति" कोई नियोजन संख्या नहीं है। ईमानदार उत्तर यह है कि एआई रैक की शक्ति जीपीयू प्लेटफॉर्म, अतिरेक लक्ष्य और शीतलन विधि पर निर्भर करती है, लेकिन सार्वजनिक संदर्भ बिंदु अब डिजाइन करने के लिए पर्याप्त ठोस हैं।

• सामान्य-उद्देश्य सीपीयू रैक:लगभग 12 किलोवाट तक।
• एयर-ठंडा एच100-श्रेणी रैक:हवा के लिए व्यावहारिक छत के पास, लगभग 40 किलोवाट।
• एनवीडिया जीबी200 एनवीएल72:लगभग 120 किलोवाट प्रति रैक, और लगभग 132 किलोवाट पूरी तरह से कॉन्फ़िगर किया गया, 415-480 वी तीन - चरण फ़ीड पर कई पावर अलमारियों के माध्यम से एक डीसी बसबार में वितरित किया जाता है।
• अगली पीढ़ी (2026 रोडमैप):240-600 किलोवाट की ओर प्रक्षेपित रैक{0}}स्केल सिस्टम।

यह कितना चरम है इसके संदर्भ के लिए:अपटाइम इंस्टीट्यूट का 2025 वैश्विक सर्वेक्षणऔसत रैक घनत्व लगभग 9 किलोवाट पर रखता है, और 80% से अधिक ऑपरेटर अभी भी 30 किलोवाट से ऊपर कोई रैक नहीं होने की रिपोर्ट करते हैं।1% से भी कम ऑपरेटर 100 किलोवाट से ऊपर के रैक चलाते हैं, और जो ऐसा करते हैं वे अधिकतर पारंपरिक उच्च प्रदर्शन कंप्यूटिंग चला रहे हैं। दूसरे शब्दों में, एक GB200 पॉड एक इमारत को कुछ ऐसा करने के लिए कहता है जो 99% उद्योग ने कभी नहीं किया है। वह अंतर, कच्चा मेगावाट नहीं, वह है जहां अधिकांश एआई बिजली परियोजनाएं मुश्किल में पड़ जाती हैं।

एआई वर्कलोड विरासती शक्ति धारणाओं को क्यों तोड़ता है?

एआई प्रशिक्षण, अनुमान और एचपीसी त्वरक, सर्वर, भंडारण और भारी जाल के घने समूहों पर निर्भर करते हैंउच्च-स्पीड फ़ाइबर नेटवर्किंग. ये प्रणालियाँ पारंपरिक उद्यम आईटी की तरह व्यवहार नहीं करती हैं। एक स्थिर ड्रॉ के आसपास एक पारंपरिक रैक की योजना बनाई गई थी; एक एआई रैक उच्च शिखर शक्ति को बढ़ाता है और जीपीयू के एक साथ रैंप के रूप में इसकी खपत को तेजी से बढ़ाता है। जब दर्जनों रैक एक ही पल में ऐसा करते हैं, तो प्रभाव कैबिनेट से आगे बढ़ता है और शाखा सर्किट, रैक पीडीयू, वितरण पथ, यूपीएस मॉड्यूल और कूलिंग प्लांट तक पहुंचता है।

यही कारण है कि एआई को {{0}तैयार पावर को एक छोर से {{2}अंत तक की प्रणाली के रूप में माना जाना चाहिए। यूटिलिटी इनपुट, स्विचगियर, यूपीएस, वितरण, बसवे, रैक पीडीयू, मॉनिटरिंग और कूलिंग यहां अलग-अलग खरीद लाइन आइटम नहीं हैं। वे एक एकल शृंखला हैं, और शृंखला केवल उसकी सबसे कमजोर कड़ी के समान ही तैनात की जा सकती है।

क्रिटिकल एआई डेटा सेंटर पावर चुनौतियां

1. रैक पावर डेंसिटी ने लिगेसी इंफ्रास्ट्रक्चर को पीछे छोड़ दिया

सबसे अधिक दिखाई देने वाली चुनौती यह है कि फर्श की जगह और विद्युत क्षमता अब एक जैसी नहीं रह गई है। प्रति कैबिनेट 8-10 किलोवाट के लिए रेट किया गया कमरा 120 किलोवाट रैक की मेजबानी नहीं कर सकता क्योंकि टाइल खाली है।

व्यवहार में इसका क्या अर्थ है:रेट्रोफ़िट में, पहली दीवार शायद ही कभी कुल उपयोगिता क्षमता होती है। यह शाखा -सर्किट गिनती, बसवे एम्पैसिटी, फ्लोर लोडिंग (जीबी200-क्लास रैक 1,300 किलोग्राम से अधिक है), या बस दरवाजा और गलियारे की निकासी है। कई कमरों में प्रति कैबिनेट डिलीवर करने योग्य एम्प्स की कमी हो जाती है, और हॉल के मेगावाट से बहुत पहले ही संरचनात्मक हेडरूम की कमी हो जाती है। रैक स्तर और क्लस्टर स्तर दोनों पर क्षमता की योजना बनाएं, और पुष्टि करें कि आप वास्तव में प्रत्येक कैबिनेट में कितने उपयोगी एम्प्स लगा सकते हैं।

2. डायनेमिक जीपीयू तनाव यूपीएस क्षणिक प्रतिक्रिया को लोड करता है

एआई लोड तीव्र और समकालिक हैं। एक सामूहिक सभी {{1} कदम कम करें या एक चेकपॉइंट राइट एक क्लस्टर के ड्रा को मिलीसेकेंड में दसियों प्रतिशत तक ले जा सकता है, फिर इसे फिर से छोड़ सकता है।

व्यवहार में इसका क्या अर्थ है:दोहरे रूपांतरण वाले यूपीएस पर, वे स्विंग लोड चरणों के रूप में दिखाई देते हैं, जिससे इन्वर्टर और स्टेटिक बाईपास को साफ-सुथरा गुजरना पड़ता है। समन्वित ब्रेकर के तहत, तेजी से यात्रा में बाधा उत्पन्न हो सकती है और कई दिनों के प्रशिक्षण में बाधा उत्पन्न हो सकती है; खराब साझा समानांतर यूपीएस मॉड्यूल क्षणिक के दौरान एक दूसरे से लड़ सकते हैं। तेज़ लोड चरणों के लिए यूपीएस और सुरक्षा निर्दिष्ट करें और वास्तविक लोड प्रोफ़ाइल के विरुद्ध ब्रेकर समन्वय को सत्यापित करें, नेमप्लेट औसत के विरुद्ध नहीं। सुविधा पैमाने पर इन उतार-चढ़ावों को अवशोषित करने के लिए विशेष रूप से साइट पर बैटरी भंडारण का उपयोग तेजी से किया जा रहा है।

3. GPU रैक के लिए उच्च -घनत्व विद्युत वितरण

स्थिर एंटरप्राइज़ लोड के लिए काम करने वाला एक निश्चित वितरण पथ शायद ही कभी एक ही समय में सघन GPU पंक्तियों, चरणबद्ध विकास और A/B निरर्थक फ़ीड का समर्थन करता है।

व्यवहार में इसका क्या अर्थ है:ए/बी फ़ीड पर, असली परीक्षा विफलता का मामला है। जब एक पथ गिरता है, तो बचे हुए पथ को अपने ब्रेकरों या भूखे पड़ोसी अलमारियों से आगे बढ़े बिना पूरा रैक भार उठाना चाहिए। प्रत्येक फ़ीड को अनावश्यक भार के बजाय एन क्षमता के लिए आकार देना एक सामान्य और महंगी गलती है। ओवरहेड बसवे अक्सर निश्चित व्हिप की तुलना में क्षमता को जोड़ना या स्थानांतरित करना आसान बनाता है, लेकिन सही विकल्प घनत्व, कमरे के लेआउट और रखरखाव की रणनीति पर निर्भर करता है।

वितरण वह भी है जहां केबलिंग समान ट्रे और नाली के लिए बिजली के साथ प्रतिस्पर्धा करती है। एक 120 किलोवाट का पॉड लीफ और स्पाइन स्विच के सैकड़ों फाइबर कनेक्शन को समाप्त कर देता है, और वह फाइबर पावर फीड के साथ रूटिंग और एयरफ्लो पथ साझा करता है। सघन पंक्तियों में,एमपीओ/एमटीपी ट्रंक केबलिंगकनेक्शन संख्या और बल्क को प्रबंधनीय बनाए रखता है ताकि यह एयरफ्लो या सेवा पहुंच को अवरुद्ध न करे। पहुंच भी मायने रखती है: छोटे जीपीयू से लेकर - तक लीफ लिंक आम तौर पर मल्टीमोड पर चलते हैं, जबकि स्पाइन और कैंपस लिंक आगे बढ़ते हैं।सिंगल -मोड (OS2) फाइबरलंबी दूरी के लिए.

4. बिजली की गुणवत्ता व्यवसाय निरंतरता का मुद्दा बन जाती है

एआई सुविधाओं में, बिजली की गुणवत्ता केवल विद्युत चिंता का विषय नहीं है। यह सीधे तौर पर अपटाइम, हार्डवेयर जीवन और प्रशिक्षण रन जीवित रहता है या नहीं, को प्रभावित करता है।

व्यवहार में इसका क्या अर्थ है:उच्च {{0}क्रेस्ट {{1}फ़ैक्टर स्विच {{2}मोड लोड और असंतुलित सिंगल {{3}फ़ेज़ टैप{{4}ऑफ़ तटस्थ धाराओं, हार्मोनिक विरूपण और चरण असंतुलन को ऊपर की ओर धकेलते हैं। निगरानी न किए जाने पर, असंतुलन आमतौर पर सबसे पहले एक गर्म कनेक्शन या ट्रिप की गई शाखा के रूप में दिखाई देता है, न कि एक साफ-सुथरे डैशबोर्ड अलर्ट के रूप में। चूँकि आईटी महँगा है और कटौती महँगी है, इसलिए आपके लिए समस्या का पता लगाने के लिए ब्रेकर की प्रतीक्षा करने के बजाय लगातार बिजली की गुणवत्ता की निगरानी करें।

5. बिजली और शीतलन की योजना एक साथ बनाई जानी चाहिए

आईटी को दिया गया प्रत्येक वाट ऊष्मा बन जाता है जिसे हटाना पड़ता है। लगभग 30 किलोवाट प्रति रैक से ऊपर, एयर कूलिंग अब व्यवहार्य नहीं है, यही कारण है कि जीबी200-श्रेणी प्रणालियों के लिए अब डायरेक्ट {{2} से {3} चिप लिक्विड कूलिंग मानक है।ASHRAE की TC 9.9 समितिअपने थर्मल दिशानिर्देशों में एक उच्च -घनत्व (एच1) वर्ग जोड़ा और, 2024 में, शीतलक वितरण इकाई (सीडीयू) सीमांकन, अचानक लोड परिवर्तन के लिए थर्मल जड़ता और क्षणिक मॉडलिंग को कवर करते हुए तरल शीतलन लचीलेपन पर एक तकनीकी बुलेटिन प्रकाशित किया।

व्यवहार में इसका क्या अर्थ है:ठंडी प्लेटें अधिकांश GPU ऊष्मा को CDU में ले जाती हैं, लेकिन रैक लोड का 10-20% (मेमोरी, NICs, ऑप्टिक्स, पावर रूपांतरण) हवा में ठंडा रह सकता है, इसलिए कमरे को अभी भी हवा से निपटने की आवश्यकता होती है। सीडीयू प्लेसमेंट, शीतलक आपूर्ति तापमान (आमतौर पर लगभग 25-45 डिग्री), प्रवाह संतुलन, और रिसाव का पता लगाने का रूटिंग सभी को रैक आने से पहले व्यवस्थित करना होगा। पंखा प्रत्येक स्विच से सर्वर पर - बाहर चला जाता हैएमपीओ/एमटीपी ब्रेकआउट केबलिंग- को जानबूझकर रूट किया जाना चाहिए ताकि यह कभी भी उस रास्ते पर न बैठे जिस पर कूलिंग निर्भर करती है।

ताप अस्वीकृति को सत्यापित किए बिना बिजली क्षमता को मंजूरी न दें। शीतलन जो लोड को हटा नहीं सकता है वह एकमात्र सबसे आम कारण है जिसकी उच्च घनत्व वाली बिजली क्षमता असहाय और अनुपयोगी हो जाती है।

6. सीमित दृश्यता क्षमता योजना को जोखिम भरा बनाती है

कक्ष स्तर या यूपीएस स्तर की निगरानी बिल्कुल वही छिपाती है जो एआई हॉल में मायने रखती है: प्रति चरण असंतुलन, स्थानीय अधिभार, रैक स्तर स्पाइक्स, शाखा बाधाएं, अतिरेक और फंसे हुए क्षमता।

व्यवहार में इसका क्या अर्थ है:प्रति {{0}आउटलेट मीटरिंग, शाखा {{1}सर्किट मॉनिटरिंग, यूपीएस टेलीमेट्री और डीसीआईएम एकीकरण के साथ बुद्धिमान रैक पीडीयू एक टीम को वास्तविक समय में तीन सवालों के जवाब देते हैं - अब कितनी क्षमता उपयोग में है, जोखिम कहां है, और कितना अतिरिक्त एआई लोड सुरक्षित रूप से जोड़ा जा सकता है। उस स्पष्टता के बिना, क्षमता नियोजन अनुमान लगाना है, और किसी समस्या का पहला संकेत यात्रा है।

7. स्केलेबिलिटी और ग्रिड बाधाएं धीमी एआई तैनाती

एआई विकास अब पारंपरिक नियोजन चक्रों से आगे निकल गया है। फ़्लोर स्पेस के साथ भी, किसी साइट में अगली GPU पीढ़ी के लिए उपयोगिता, यूपीएस, वितरण या शीतलन क्षमता की कमी हो सकती है। डेटा सेंटर की मांग के साथप्रति वर्ष लगभग 15-17% बढ़ रहा हैसीमित बाजारों में यूटिलिटी इंटरकनेक्शन लीड समय कई वर्षों तक बढ़ गया है, यही कारण है कि कुछ डेवलपर्स साइट जेनरेशन और बैटरी स्टोरेज को चालू कर रहे हैं।

व्यवहार में इसका क्या अर्थ है:एकल हार्डवेयर जनरेशन के बजाय चरणबद्ध विकास के लिए डिज़ाइन - मॉड्यूलर यूपीएस, विस्तार योग्य वितरण, बसवे आधारित क्षमता परिवर्धन, मानकीकृत रैक पावर ब्लॉक, और स्पष्ट अतिरेक और ट्रिगर पॉइंट। उद्देश्य समय के साथ प्रयोग करने योग्य, तैनाती योग्य, रखरखाव योग्य क्षमता है, न कि सबसे बड़ी संभव दिन एक प्रणाली।

पारंपरिक बनाम एआई डेटा सेंटर पावर डिज़ाइन

उच्च घनत्व वाले एआई रैक के लिए पावर इंफ्रास्ट्रक्चर की योजना कैसे बनाएं

चरण 1: रैक को परिभाषित करें-स्तर और क्लस्टर-स्तर की मांग

कार्यभार और हार्डवेयर योजना से शुरुआत करें। जीपीयू, सर्वर, नेटवर्किंग, स्टोरेज और रैक लेवल पावर गियर सहित प्रत्येक रैक, प्रत्येक क्लस्टर और प्रत्येक तैनाती चरण के ड्रा का अनुमान लगाएं। यथार्थवादी विकास धारणाओं का उपयोग करें {{3} एआई हार्डवेयर तेजी से बदल जाता है, इसलिए दिन में {{4}एक लोड गलत डिज़ाइन लक्ष्य होता है।

चरण 2: अपस्ट्रीम क्षमता और अतिरेक की जाँच करें

पूर्ण पथ पर चलें: उपयोगिता सेवा, स्विचगियर, ट्रांसफार्मर, यूपीएस, वितरण पैनल, बसवे या केबल, रैक पीडीयू, शाखा सर्किट और ए/बी फ़ीड। पुष्टि करें कि सिस्टम केवल सामान्य मोड में ही नहीं, बल्कि रखरखाव या गलती की स्थिति में अपेक्षित लोड और अतिरेक स्तर दोनों का समर्थन करता है।

चरण 3: यूपीएस आर्किटेक्चर को एआई लोड व्यवहार से मिलाएं

कुल किलोवाट को देखें। क्षणिक प्रतिक्रिया, स्केलेबिलिटी, अतिरेक (एन +1 या 2 एन), आंशिक - लोड दक्षता, बैटरी रनटाइम, समानांतर संचालन और निगरानी का मूल्यांकन करें। मॉड्यूलर यूपीएस तब उपयोगी होता है जब क्लस्टर चरणों में विस्तारित होगा, क्योंकि यह पहले दिन बिना बड़े आकार के क्षमता जोड़ता है।

चरण 4: लचीला विद्युत वितरण चुनें

उच्च {{0}घनत्व वाली पंक्तियों को आमतौर पर स्थिर पैनल{{1}और{{2}व्हिप डिज़ाइन की तुलना में अधिक लचीलेपन की आवश्यकता होती है। पारंपरिक पैनल वितरण, ओवरहेड बसवे, उच्च घनत्व रैक पीडीयू, दोहरी फ़ीड और बुद्धिमान मीटरिंग की तुलना करें। एक नया एआई हॉल अक्सर भविष्य के घनत्व के लिए बसवे के आकार को उचित ठहराता है; एक रेट्रोफ़िट को मौजूदा पैनलों तक सीमित किया जा सकता है।

चरण 5: तैनाती से पहले बिजली और शीतलन का समन्वय करें

रैक स्थापित करने से पहले शीतलन तकनीक, वायु प्रवाह पथ, तरल शीतलन आवश्यकताओं, सीडीयू स्थान, शीतलक तापमान और प्रवाह, फर्श लोडिंग, सेवा पहुंच और रिसाव का पता लगाना मान्य करें। यह पर्याप्त विद्युत क्षमता होने लेकिन रैक को पूर्ण लोड पर चलाने में असमर्थ होने की क्लासिक विफलता से बचाता है।

चरण 6: चरणबद्ध विस्तार के लिए निर्माण करें

बिजली व्यवस्था को एक रोडमैप के रूप में मानें। एक दिन की क्षमता, विस्तार क्षमता, यूपीएस या वितरण उन्नयन के लिए ट्रिगर बिंदु, निगरानी सीमा, अतिरेक आवश्यकताओं और बजट चरणों को परिभाषित करें, ताकि इंजीनियरिंग, संचालन और खरीद एक योजना साझा करें।

एआई डेटा सेंटर पावर प्लानिंग चेकलिस्ट

एआई में क्या देखें -रेडी पावर सॉल्यूशंस

मॉड्यूलर यूपीएस.जब तैनाती चरणों में बढ़ती है तो यह इसके लायक है; यह क्षमता जोड़ता है और पहले दिन अप्रयुक्त किलोवाट के लिए भुगतान किए बिना रखरखाव को सरल बनाता है।

उच्च-घनत्व वितरण.बसवे या अन्य लचीली प्रणालियाँ तेजी से बदलती पंक्तियों में लाभदायक होती हैं जहाँ रैक जोड़े जाते हैं या स्थानांतरित किए जाते हैं, और जहाँ दोहरी फ़ीड और सुरक्षित रखरखाव मायने रखता है।

बुद्धिमान रैक पीडीयू।प्रति {{0}आउटलेट या प्रति{{1}रैक दृश्यता से टीमों को असंतुलन को पकड़ने, ओवरलोड को रोकने और क्षमता की सटीक योजना बनाने में मदद मिलती है। यह वह परत है जिसे अक्सर AI बिल्ड में निर्दिष्ट किया जाता है।

बिजली की गुणवत्ता की निगरानी।वोल्टेज, करंट, पावर फैक्टर, हार्मोनिक्स, फेज़ बैलेंस और लोड ट्रेंड में दृश्यता की तलाश करें, ताकि समस्याएँ आउटेज होने से पहले ही सामने आ जाएँ।

डीसीआईएम एकीकरण.थर्मल डेटा और रैक उपयोग के साथ पावर डेटा को जोड़ना निगरानी को क्षमता नियोजन में बदल देता है। जब नेटवर्किंग एक ही निर्माण का हिस्सा है, तो एक इंजीनियर काएमटीपी बनाम एमपीओ चयन गाइडरैक के फाइबर पक्ष को पावर पक्ष की तरह सुविचारित रखने में मदद करता है।

बचने के लिए सामान्य गलतियाँ

• केवल कुल सुविधा क्षमता के लिए योजना बनाना।एक साइट में पर्याप्त मेगावाट हो सकता है और फिर भी रैक विफल हो सकती है। रैक-स्तर और शाखा-स्तर की सीमाएं जांचें।
• कूलिंग को बाद का निर्णय मानना।बिजली के बाद नियोजित शीतलन क्षमता में रुकावट का प्रमुख कारण है।
• गतिशील लोड व्यवहार को अनदेखा करना.क्षणिक प्रतिक्रिया और बिजली की गुणवत्ता के लिए डिज़ाइन, औसत भार के लिए नहीं।
• -के अंतर्गत निगरानी निर्दिष्ट करना।सीमित दृश्यता का अर्थ है धीमी समस्या निवारण और अविश्वसनीय क्षमता योजना।
• एक कठोर वास्तुकला का निर्माण.एआई हार्डवेयर महीनों में विकसित होता है; सुविधा के जीवन के अंत तक पहुंचने से पहले एक निश्चित डिज़ाइन एक बाधा बन जाता है।

अंतिम टेकअवे

एआई डेटा सेंटर पावर डिज़ाइन अधिक विद्युत क्षमता जोड़ने के बारे में नहीं है। यह प्रयोग करने योग्य बिजली - को सुरक्षित रूप से, दृश्यमान रूप से, और विश्वसनीय रूप से - रैक तक पहुंचाने के बारे में है जो पुराने बुनियादी ढांचे के निर्माण की तुलना में दस गुना से अधिक बिजली खींच सकती है। ग्रिड से रैक तक की योजना बनाएं, कूलिंग के साथ शक्ति का समन्वय करें, शाखा और आउटलेट स्तर पर निगरानी करें, और मौजूदा जीपीयू पीढ़ी के बजाय अगली जीपीयू पीढ़ी के लिए डिज़ाइन करें। तैनाती से पहले, रैक घनत्व, वितरण पथ, यूपीएस क्षणिक प्रदर्शन, बिजली की गुणवत्ता, निगरानी और शीतलन का एक साथ आकलन करें। इस तरह से बनाई गई बिजली व्यवस्था कटौती को रोकने के अलावा और भी बहुत कुछ करती है; यह एआई बुनियादी ढांचे को पहली बाधा पर रुकने के बजाय निर्धारित समय पर स्केल करने की सुविधा देता है।