Google ने TorchTPU खोला—PyTorch को Nvidia से बाहर नया रास्ता

|लेखक: QUASA संपादकीय टीम|5 मिनट पढ़ने का समय
Google ने TorchTPU खोला—PyTorch को Nvidia से बाहर नया रास्ता

Google Cloud ने 20 अक्टूबर 2026 को TorchTPU के खुले स्रोत में जारी होने की घोषणा की; Meta की PyTorch इंजीनियरिंग निदेशक Jana van Greunen ने हार्डवेयर विकल्प की जरूरत पर कहा, “We cannot be constrained by a single hardware architecture.” Meta की PyTorch टीम के सहयोग से बना यह मूल बैकएंड GitHub पर उपलब्ध है और संगत PyTorch कार्यभार को Google TPU पर चलाने का रास्ता देता है। Google ने अनुप्रयोग ले जाने, त्रुटियाँ खोजने और प्रदर्शन सुधारने वाले TPU agent suite का प्रारंभिक पूर्वावलोकन भी जारी किया।

इससे Nvidia GPU के लिए बने हर अनुप्रयोग का स्थानांतरण अपने आप पूरा नहीं हो जाता, लेकिन PyTorch विकास दलों को दूसरा हार्डवेयर लक्ष्य मिलता है। TechCrunch का विश्लेषण इस कदम को AI अनुप्रयोग विकास में Nvidia के सॉफ्टवेयर प्रभुत्व को चुनौती देने की कोशिश के रूप में रखता है। किसी भारतीय दल के लिए इसकी उपयोगिता उसके मॉडल, विशेष ऑपरेटरों और उपलब्ध TPU परिवेश पर निर्भर करेगी।

किन PyTorch कार्यभारों को रास्ता मिला

Google TPU पर PyTorch के अनुमान और वितरित प्रशिक्षण के अलग कार्यभार

TorchTPU प्रशिक्षण और अनुमान, दोनों के लिए बनाया गया है। यह PyTorch के सीधे निष्पादन और torch.compile से संकलित निष्पादन का समर्थन करता है; वितरित काम के लिए PyTorch के प्रचलित तरीके भी उपलब्ध हैं। अनुमान सेवा में vLLM और SGLang, बड़े प्रशिक्षण में TorchTitan तथा अलग उपकरणों पर काम व्यवस्थित करने में Ray के एकीकरण प्रासंगिक हैं। TorchRec और Hugging Face के Transformers तथा Diffusers से बने मॉडल भी समर्थित दायरे में आते हैं।

संगतता का पैमाना समझने के लिए परीक्षण के दो अलग परिणाम उपयोगी हैं। PyTorch टीम के तकनीकी लेख के अनुसार परीक्षण किए गए 4,917 लोकप्रिय मॉडलों में 4,821 बिना क्रैश चले; अलग संख्यात्मक तुलना में 657 प्रतिनिधि मॉडलों में 638 के परिणाम GPU आधार से मेल खाए। पहला आँकड़ा सफल निष्पादन का है, दूसरा परिणामों की तुलना का। दोनों परियोजना के परीक्षण हैं, किसी विशेष मॉडल या उत्पादन सेवा की गारंटी नहीं।

इसीलिए केवल यह जानना पर्याप्त नहीं कि अनुप्रयोग PyTorch में लिखा है। मॉडल किस पुस्तकालय पर निर्भर है, क्या उसमें अपने GPU कर्नेल हैं, और अनुरोध सँभालने के लिए कौन-सा सेवा ढाँचा इस्तेमाल होता है—ये बातें स्थानांतरण का काम तय करती हैं। सामान्य PyTorch ऑपरेशन के लिए उपकरण लक्ष्य बदलना छोटा संशोधन हो सकता है; विशेष ऑपरेटर को बदलना पड़ सकता है। PyTorch टीम के GPU आधारित TorchTitan उदाहरण में FlexAttention की जगह F.scaled_dot_product_attention लगाना पड़ा था, क्योंकि पहला ऑपरेटर उस TPU मार्ग पर समर्थित नहीं था।

मौजूदा परियोजना की संगतता कहाँ अटक सकती है

PyTorch कार्यभार को Nvidia GPU से Google TPU पर ले जाने में संगतता जाँच की आवश्यकता

खुला कोड इस्तेमाल करने के लिए वास्तविक TPU और मेल खाता सॉफ्टवेयर परिवेश चाहिए। TorchTPU के सार्वजनिक भंडार में TPU वर्चुअल मशीन पर उदाहरण चलाने, Python 3.11 या नए संस्करण और स्थापना में PyTorch के CPU बिल्ड का उपयोग करने के निर्देश हैं। इसलिए कोड की पहली जाँच मशीन, Python संस्करण और स्थापित पैकेज से शुरू होती है; केवल GPU वाली मौजूदा स्थापना को नए उपकरण नाम के साथ चलाना पर्याप्त तैयारी नहीं है।

उसके बाद संगतता के चार हिस्से हैं:

  • उपकरण लक्ष्य: मॉडल और उसके इनपुट जहाँ CUDA पर भेजे जाते हैं, वहाँ TPU चुनने पर दोनों सही उपकरण तक पहुँचें।
  • वितरित काम: यदि प्रशिक्षण कई उपकरणों पर चलता है, तो GPU संचार के लिए चुने गए आधार की जगह TPU के अनुरूप वितरित आधार लगे।
  • विशेष ऑपरेटर: ध्यान गणना, अपने कर्नेल और GPU के लिए लिखे अन्य हिस्सों का TPU पर समर्थित विकल्प उपलब्ध हो।
  • सही परिणाम और क्षमता: समान इनपुट पर संख्यात्मक परिणाम स्वीकार्य हों; फिर वास्तविक मॉडल और बैच आकार पर स्मृति तथा गति मापी जाए।

ये अलग प्रश्न हैं: मॉडल का बिना त्रुटि शुरू होना उसके उत्तर सही होने या सेवा भार सँभालने का प्रमाण नहीं देता। PyTorch टीम ने उपकरण लक्ष्य बदलने को सरल प्रवेश बिंदु बताया है, लेकिन मॉडल के आकार, काम को उपकरणों में बाँटने और ऑपरेटर चुनने का असर अधिकतम TPU प्रदर्शन पर पड़ता है। जिन परियोजनाओं में GPU के लिए खास कर्नेल या संचार पद्धति गहराई से जुड़ी है, उनमें स्थानांतरण का दायरा साधारण उपकरण बदलाव से बड़ा होगा।

पूर्वावलोकन वाले एजेंट क्या करते हैं

TPU agent suite स्थानांतरण के कुछ कामों में सहायता देने के लिए आया है, लेकिन अभी प्रारंभिक पूर्वावलोकन में है। एजेंट समूह का सार्वजनिक भंडार अनुप्रयोग को TPU पर लाने, प्रदर्शन प्रोफाइल पढ़ने, हार्डवेयर जाँचने और कर्नेल सुधारने के विशेषज्ञ एजेंट बताता है। उसमें Claude Code और Antigravity के लिए पैकेज बनाने का तरीका दिया गया है; Codex और Cursor का समर्थन आगे आने वाला बताया गया है।

इन औजारों के लिए भी परिवेश तैयार होना चाहिए। भंडार के निर्देश मेजबान मशीन पर जरूरी Python पैकेज, प्रदर्शन विश्लेषण के औजार और चुने गए TPU परिवेश तक पहुँच बताते हैं। एजेंट किसी बाधा का पता लगाने या सुधार सुझाने में मदद कर सकता है, लेकिन मॉडल के सही परिणाम और उत्पादन भार पर उसके व्यवहार का निर्णय वास्तविक परीक्षण से ही निकलेगा।

भारतीय विकास दलों के लिए क्या बदला

TorchTPU ने पहले से PyTorch इस्तेमाल करने वाले दलों के सामने Google TPU का एक खुला सॉफ्टवेयर मार्ग रखा है। इससे एक ही कार्यभार के लिए GPU और TPU, दोनों पर परिणाम तथा संचालन की शर्तें परखना संभव होता है। विकल्प की यह गुंजाइश खास तौर पर तब उपयोगी है जब मॉडल समर्थित पुस्तकालयों पर बना हो और दल को उपयुक्त TPU परिवेश मिल सके।

तुलना का परिणाम फिर भी कार्यभार के अनुसार बदलेगा। उपलब्ध घोषणाएँ किसी भारतीय क्षेत्र में TPU क्षमता, किसी दल की लागत बचत या उसके मॉडल की गति तय नहीं करतीं। वास्तविक स्थानांतरण का फैसला इस पर टिकेगा कि उसके अपने ऑपरेटर TPU पर चलते हैं या नहीं, समान इनपुट पर परिणाम कैसे बदलते हैं और अपेक्षित भार सँभालने के लिए कितना अनुकूलन चाहिए।

यह भी पढ़ें:

साझा करें:

संबंधित लेख

हमारे न्यूज़लेटर की सदस्यता लें

Web3, AI और क्रिप्टो की नवीनतम खबरें सीधे अपने इनबॉक्स में पाएँ।

0