एनवीडिया ने आरटीएक्स के साथ एआई चैटबॉट लॉन्च किया जो स्थानीय रूप से विंडोज पीसी पर चलता है

NVIDIA प्रकाशित ए कृत्रिम होशियारी एक (एआई) संचालित चैटबॉट जिसे चैट विद आरटीएक्स कहा जाता है, जो पीसी पर स्थानीय रूप से चलता है और इसे इंटरनेट से कनेक्ट करने की आवश्यकता नहीं होती है। जेनेरिक एआई बूम के बाद से जीपीयू निर्माता एआई क्षेत्र में सबसे आगे रहा है, इसके उन्नत एआई चिप्स एआई उत्पादों और सेवाओं को शक्ति प्रदान करते हैं। एनवीडिया के पास एक एआई प्लेटफॉर्म भी है जो व्यवसायों के लिए एंड-टू-एंड समाधान प्रदान करता है। कंपनी अब अपने स्वयं के चैटबॉट बनाती है और आरटीएक्स के साथ चैट इसकी पहली पेशकश है। एनवीडिया चैटबॉट वर्तमान में एक डेमो एप्लिकेशन मुफ्त में उपलब्ध है।

एनवीडिया इसे वैयक्तिकृत एआई चैटबॉट कह रहा है जारी किया उपकरण मंगलवार 13 फरवरी। सॉफ़्टवेयर डाउनलोड करने के इच्छुक उपयोगकर्ताओं को न्यूनतम 8 जीबी वीआरएएम के साथ आरटीएक्स 30 या 40 श्रृंखला जीपीयू पर चलने वाले विंडोज पीसी या वर्कस्टेशन की आवश्यकता होगी। एक बार डाउनलोड होने के बाद, एप्लिकेशन को कुछ ही क्लिक में इंस्टॉल किया जा सकता है और तुरंत उपयोग किया जा सकता है।

चूंकि यह एक स्थानीय चैटबॉट है, चैट विद आरटीएक्स को बाहरी दुनिया का कोई ज्ञान नहीं है। हालाँकि, उपयोगकर्ता इसे अपने निजी डेटा, जैसे दस्तावेज़, फ़ाइलें आदि से भर सकते हैं, और उन पर क्वेरी चलाने के लिए इसे अनुकूलित कर सकते हैं। ऐसा एक उपयोग मामला उन्हें काम से संबंधित दस्तावेजों की बड़ी मात्रा प्रदान करना हो सकता है और फिर उन्हें किसी विशिष्ट प्रश्न का सारांश, विश्लेषण या उत्तर देने के लिए कहा जा सकता है जिसे मैन्युअल रूप से ढूंढने में घंटों लग सकते हैं। इसी तरह, यह कई अध्ययनों और लेखों को ब्राउज़ करने के लिए एक प्रभावी शोध उपकरण हो सकता है। यह टेक्स्ट, पीडीएफ, doc/docx और xml फ़ाइल स्वरूपों का समर्थन करता है। इसके अतिरिक्त, ऐ बॉट यूट्यूब वीडियो और प्लेलिस्ट यूआरएल भी स्वीकार करता है और वीडियो ट्रांसक्रिप्ट का उपयोग करके, यह प्रश्नों का उत्तर दे सकता है या वीडियो का सारांश दे सकता है। इस सुविधा के लिए इंटरनेट एक्सेस की आवश्यकता होगी.

डेमो वीडियो के अनुसार, चैट विद आरटीएक्स मूल रूप से पायथन इंस्टेंस वाला एक वेब सर्वर है जिसमें ताजा डाउनलोड होने पर बड़े भाषा मॉडल (एलएलएम) की जानकारी शामिल नहीं होती है। उपयोगकर्ता इसे प्रशिक्षित करने के लिए मिस्ट्रल या लामा 2 मॉडल के बीच चयन कर सकते हैं, फिर क्वेरी चलाने के लिए अपने स्वयं के डेटा का उपयोग कर सकते हैं। कंपनी का कहना है कि चैटबॉट अपनी कार्यक्षमता के लिए फ़ेच ऑगमेंटेड जेनरेशन (RAG), TensorRT-LLM और RTX एक्सेलेरेशन जैसे ओपन सोर्स प्रोजेक्ट्स का लाभ उठाता है।

एक के अनुसार प्रतिवेदन द वर्ज के अनुसार, ऐप का आकार लगभग 40 जीबी है, और पायथन इंस्टेंस 3 जीबी तक रैम ले सकता है। पोस्ट द्वारा उजागर किया गया एक विशेष मुद्दा यह है कि चैटबॉट उन फ़ोल्डरों में JSON फ़ाइलें बनाता है जिन्हें आप उसे अनुक्रमित करने के लिए कहते हैं। इसलिए आपके संपूर्ण दस्तावेज़ फ़ोल्डर या बड़े मूल फ़ोल्डर को फीड करना समस्याग्रस्त हो सकता है।