मेटा ने जेनरेटिव एआई उत्पाद और सेवाएं बनाने के लिए नए एआई चिप्स का अनावरण किया

मेटाबुधवार को अपनी अगली पीढ़ी के मेटा ट्रेनिंग एंड इनफेरेंस एक्सेलेरेटर (एमटीआईए) का अनावरण किया, जो चिपसेट के अपने दर्जी परिवार के लिए है। कृत्रिम होशियारी (एआई) कार्यभार। कंपनी द्वारा पहली AI चिप्स पेश करने के लगभग एक साल बाद इसके AI चिपसेट में अपग्रेड किया गया है। ये अनुमान त्वरक तकनीकी दिग्गज के मौजूदा और भविष्य के उत्पादों, सेवाओं के साथ-साथ इसके सोशल मीडिया प्लेटफार्मों में एकीकृत एआई को शक्ति प्रदान करेंगे। मेटा ने विशेष रूप से इस बात पर प्रकाश डाला कि चिपसेट की क्षमताओं का उपयोग इसकी रैंकिंग और अनुशंसा मॉडल की सेवा के लिए किया जाएगा।

के माध्यम से घोषणा करें ब्लॉग भेजा, मेटा ने कहा: “मेटा के बड़े पैमाने के बुनियादी ढांचे की अगली पीढ़ी एआई को ध्यान में रखकर बनाई गई है, जिसमें नए जेनरेटिव एआई (जेनएआई) उत्पादों और सेवाओं, अनुशंसा प्रणालियों और उन्नत एआई अनुसंधान का समर्थन करना शामिल है। यह एक निवेश है जिसके आने वाले वर्षों में बढ़ने की उम्मीद है, क्योंकि मॉडल परिष्कार के साथ-साथ एआई मॉडल का समर्थन करने के लिए कम्प्यूटेशनल आवश्यकताएं भी बढ़ रही हैं।

मेटा के अनुसार, नई एआई चिप अपनी वास्तुकला में सुधार के कारण बिजली उत्पादन और दक्षता में महत्वपूर्ण सुधार प्रदान करती है। एमटीआईए की नई पीढ़ी अपने पूर्ववर्ती की तुलना में गणना और मेमोरी बैंडविड्थ को दोगुना कर देती है। यह मेटा के अनुशंसा मॉडल की भी सेवा दे सकता है जिसका उपयोग वह अपने सोशल मीडिया प्लेटफॉर्म पर अपने उपयोगकर्ताओं के लिए सामग्री को निजीकृत करने के लिए करता है।

चिपसेट हार्डवेयर के बारे में, मेटा ने कहा कि सिस्टम में एक रैक-आधारित डिज़ाइन है जो 72 एक्सेलेरेटर तक पकड़ सकता है, जहां तीन चेसिस में 12 कार्ड होते हैं और उनमें से प्रत्येक में दो एक्सेलेरेटर होते हैं। प्रोसेसर 1.35 गीगाहर्ट्ज़ पर क्लॉक किया गया है, जो कि इसके 800 मेगाहर्ट्ज पूर्ववर्ती की तुलना में बहुत तेज़ है। यह 90W की उच्च शक्ति पर भी चल सकता है। एक्सेलेरेटर और होस्ट के बीच की संरचना को भी PCIe Gen5 में अपग्रेड किया गया है।

सॉफ्टवेयर स्टैक में ही कंपनी ने बड़े सुधार किए हैं। चिपसेट को PyTorch 2.0 और संबंधित सुविधाओं के साथ पूरी तरह से एकीकृत करने के लिए डिज़ाइन किया गया है। कंपनी ने बताया, “एमटीआईए के लिए निचले स्तर का कंपाइलर फ्रंटएंड से आउटपुट लेता है और बहुत कुशल, डिवाइस-विशिष्ट कोड तैयार करता है।”

अब तक प्राप्त परिणाम बताते हैं कि यह एमटीआईए चिप कम जटिलता (एलसी) और उच्च जटिलता (एचसी) रैंकिंग और अनुशंसा मॉडल दोनों को संभाल सकती है जो मेटा उत्पादों के घटक हैं। इन मॉडलों के बीच, मॉडल आकार और प्रति इनपुट नमूने की गणना की मात्रा में लगभग 10 से 100 गुना अंतर हो सकता है। क्योंकि हम पूरे स्टैक को नियंत्रित करते हैं, हम व्यावसायिक रूप से उपलब्ध जीपीयू की तुलना में अधिक दक्षता प्राप्त कर सकते हैं। इन लाभों को प्राप्त करना एक सतत प्रयास है और हम अपने सिस्टम में एमटीआईए चिप्स का निर्माण और तैनाती करते हुए प्रति वाट प्रदर्शन में सुधार करना जारी रखते हैं।

एआई के उदय के साथ, कई प्रौद्योगिकी कंपनियां अब कस्टम एआई चिपसेट के निर्माण पर ध्यान केंद्रित कर रही हैं जो उनकी विशेष जरूरतों को पूरा कर सकते हैं। ये प्रोसेसर सर्वरों को बड़े पैमाने पर कंप्यूटिंग शक्ति प्रदान करते हैं, जिससे वे विशिष्ट कार्यों के लिए सामान्य प्रयोजन एआई चैटबॉट और एआई टूल जैसे उत्पाद लाने में सक्षम होते हैं।