यह नया AI बेंचमार्क उपयोगकर्ता के प्रश्नों का उत्तर देने की गति का परीक्षण करता है

आर्टिफिशियल इंटेलिजेंस बेंचमार्किंग ग्रुप एमएलकॉमन्स बुधवार को परीक्षणों और परिणामों का एक नया सेट जारी किया गया जिसमें मूल्यांकन किया गया कि हाई-एंड हार्डवेयर कितनी तेजी से एआई एप्लिकेशन चला सकता है और उपयोगकर्ताओं को प्रतिक्रिया दे सकता है।

एमएलकॉमन्स द्वारा जोड़े गए दो नए बेंचमार्क मापते हैं कि एआई चिप्स और सिस्टम कितनी तेजी से शक्तिशाली डेटा से भरे एआई मॉडल से उत्तर उत्पन्न कर सकते हैं। परिणाम मोटे तौर पर दर्शाते हैं कि एआई एप्लिकेशन कितनी तेजी से काम करता है चैटजीपीटी उपयोगकर्ता के प्रश्न का उत्तर दे सकता है।

नए बेंचमार्क में से एक में बड़े भाषा मॉडल के लिए प्रश्न-उत्तर परिदृश्य की गति को मापने की क्षमता जोड़ी गई है। बुलाया लामा 2इसमें 70 बिलियन पैरामीटर शामिल हैं और इसे मेटा प्लेटफ़ॉर्म द्वारा विकसित किया गया था।

एमएलकॉमन्स अनुरक्षकों ने बेंचमार्किंग टूल के सुइट में एक दूसरा टेक्स्ट-टू-इमेज जनरेटर भी जोड़ा है, जिसे कहा जाता है एमएलपर्फपर आधारित स्थिरता ए.आई स्थिर प्रसार के साथ एक्सएल मॉडल।

सर्वर द्वारा संचालित एनवीडिया का H100 अल्फाबेट जैसे लोगों द्वारा निर्मित चिप्स गूगलसुपरमाइक्रो और NVIDIA स्वयं ने दोनों नए कच्चे प्रदर्शन बेंचमार्क आसानी से जीत लिए। कई सर्वर बिल्डरों ने कंपनी की कम शक्तिशाली L40S चिप पर आधारित डिज़ाइन प्रस्तुत किए हैं।

सर्वर निर्माता क्राय ने क्वालकॉम एआई चिप के साथ छवि निर्माण बेंचमार्क के लिए एक डिज़ाइन प्रस्तुत किया है जो एनवीडिया के अत्याधुनिक प्रोसेसर की तुलना में काफी कम बिजली की खपत करता है।

इंटेल ने अपने गौडी2 एक्सेलेरेटर चिप्स पर आधारित एक डिज़ाइन भी प्रस्तुत किया। कंपनी ने नतीजों को “मजबूत” बताया।

एआई अनुप्रयोगों को तैनात करते समय कच्चा प्रदर्शन ही एकमात्र महत्वपूर्ण मीट्रिक नहीं है। उन्नत एआई चिप्स भारी मात्रा में बिजली की खपत करते हैं, और एआई कंपनियों के लिए सबसे बड़ी चुनौतियों में से एक ऐसे चिप्स तैनात करना है जो न्यूनतम मात्रा में बिजली के लिए इष्टतम प्रदर्शन प्रदान करते हैं।

एमएलकॉमन्स के पास ऊर्जा खपत को मापने के लिए एक अलग बेंचमार्क श्रेणी है।

© थॉमसन रॉयटर्स 2024

(यह कहानी एनडीटीवी स्टाफ द्वारा संपादित नहीं की गई है और एक सिंडिकेटेड फीड से ऑटो-जेनरेट की गई है।)