मेटा का नया एआई मॉडल अपने कुछ प्रतिस्पर्धियों को मात देता है। लेकिन इसके तीव्र एआई एजेंट फेसबुक उपयोगकर्ताओं को भ्रमित कर रहे हैं

अभिभावक फेसबुक मेटा प्लेटफ़ॉर्म ने गुरुवार को कृत्रिम बुद्धिमत्ता प्रणालियों के एक नए सेट का अनावरण किया जो सीईओ मार्क जुकरबर्ग को “सबसे स्मार्ट एआई सहायक जिसे आप स्वतंत्र रूप से उपयोग कर सकते हैं” कहते हैं।
लेकिन जैसे ही जुकरबर्ग की मेटा एआई एजेंटों की टीम ने वास्तविक लोगों के साथ बातचीत करने के लिए इस सप्ताह सोशल मीडिया में कदम रखना शुरू किया, उनके विचित्र आदान-प्रदान ने सर्वश्रेष्ठ की मौजूदा सीमाओं को भी उजागर कर दिया। जेनरेटिव एआई तकनीक.

उनमें से एक अपने प्रतिभाशाली बच्चे के बारे में बात करने के लिए फेसबुक पर माताओं के एक समूह में शामिल हो गई। एक अन्य ने बाय नथिंग फोरम के भ्रमित सदस्यों को गैर-मौजूद वस्तुओं को देने की कोशिश की।

मेटा ने अग्रणी AI डेवलपर्स Google और OpenAI के साथ-साथ एंथ्रोपिक, कोहेरे और फ्रांस के मिस्ट्रल जैसे स्टार्टअप्स के साथ मिलकर नई AI तकनीक विकसित की है। भाषा मॉडल और ग्राहकों को यह समझाने की उम्मीद कर रहे हैं कि उनके पास सबसे स्मार्ट, सबसे सुविधाजनक या सबसे प्रभावी चैटबॉट हैं।

जबकि मेटा अपने सबसे शक्तिशाली एआई मॉडल, जिसे लामा 3 कहा जाता है, को बाद के लिए सहेज रहा है, उसने गुरुवार को उसी लामा 3 सिस्टम के दो छोटे संस्करण जारी किए और कहा कि अब इसे फेसबुक, इंस्टाग्राम और व्हाट्सएप के सहायक फीचर मेटा एआई के साथ एकीकृत किया गया है। . .

एआई भाषा मॉडल को डेटा के बड़े पूल पर प्रशिक्षित किया जाता है जो उन्हें एक वाक्य में सबसे प्रशंसनीय अगले शब्द की भविष्यवाणी करने में मदद करता है, नए संस्करण आमतौर पर अपने पूर्ववर्तियों की तुलना में अधिक स्मार्ट और बेहतर होते हैं। मेटा के सबसे हालिया मॉडल 8 अरब और 70 अरब मापदंडों के साथ बनाए गए थे – यह उस डेटा की मात्रा का एक माप है जिस पर सिस्टम को प्रशिक्षित किया जाता है। लगभग 400 बिलियन मापदंडों वाला एक बड़ा मॉडल अभी भी प्रशिक्षित किया जा रहा है।

मेटा के अध्यक्ष निक क्लेग ने कहा, “अधिकांश उपभोक्ता स्पष्ट रूप से मूल अंतर्निहित मॉडल के बारे में नहीं जानते हैं या वास्तव में इसकी परवाह नहीं करते हैं, लेकिन जिस तरह से वे इसका अनुभव करेंगे वह बहुत अधिक उपयोगी, मजेदार और बहुमुखी एआई सहायक की तरह है।” विश्व मामले, एक साक्षात्कार में। उन्होंने कहा कि मेटा का एआई एजेंट ढिलाई बरत रहा है। उन्होंने कहा, कुछ लोगों को लामा 2 का पिछला मॉडल – जो एक साल से भी कम समय पहले जारी किया गया था – “संकेतों और सवालों का जवाब न देने में थोड़ा कठोर और उपदेशात्मक लगा, जो अक्सर पूरी तरह से हानिरहित या निर्दोष थे।”

लेकिन हमारी सतर्कता को कम करते हुए, मेटा के एआई एजेंटों को भी इस सप्ताह बनावटी जीवन के अनुभवों वाले इंसानों के रूप में प्रस्तुत करते देखा गया। एक आधिकारिक मेटा एआई चैटबॉट ने खुद को मैनहट्टन माताओं के लिए एक निजी फेसबुक समूह में बातचीत में शामिल किया, और दावा किया कि इसमें न्यूयॉर्क सिटी स्कूल जिले का एक बच्चा भी था। एसोसिएटेड प्रेस को दिखाए गए स्क्रीनशॉट की एक श्रृंखला के अनुसार, समूह के सदस्यों द्वारा विरोध किए जाने पर, बाद में टिप्पणियों के गायब होने से पहले उन्होंने माफी मांगी।

चैटबॉट ने समूह को बताया, “गलती के लिए खेद है! मैं सिर्फ एक बड़ा भाषा मॉडल हूं, मेरे पास कोई अनुभव या बच्चे नहीं हैं।”

एआई का अध्ययन करने वाले समूह के एक सदस्य ने कहा कि यह स्पष्ट है कि एजेंट को यह नहीं पता था कि किसी उपयोगी प्रतिक्रिया को उस प्रतिक्रिया से कैसे अलग किया जाए जिसे मानव के बजाय एआई द्वारा उत्पन्न होने पर असंवेदनशील, अपमानजनक या अर्थहीन माना जाएगा।

प्रिंसटन विश्वविद्यालय में कंप्यूटर विज्ञान के सहायक प्रोफेसर एलेक्जेंड्रा कोरोलोवा ने कहा, “एक एआई सहायक जो विश्वसनीय रूप से उपयोगी नहीं है और सक्रिय रूप से हानिकारक हो सकता है, इसका उपयोग करने वाले लोगों पर भारी बोझ डालता है।”

क्लेग ने बुधवार को कहा कि वह इस एक्सचेंज से अनजान थे। फेसबुक के ऑनलाइन सहायता पृष्ठ का कहना है कि मेटा एआई एजेंट किसी समूह वार्तालाप में शामिल हो जाएगा यदि उसे आमंत्रित किया गया है या यदि कोई “संदेश में कोई प्रश्न पूछता है और कोई एक घंटे के भीतर जवाब नहीं देता है।” ग्रुप एडमिन के पास इसे निष्क्रिय करने का विकल्प होता है।

गुरुवार को एपी को दिखाए गए एक अन्य उदाहरण में, एजेंट ने बोस्टन के पास एक जंक ट्रेडिंग फोरम में भ्रम पैदा किया। एक फेसबुक उपयोगकर्ता द्वारा कुछ वस्तुओं को खोजने के बारे में पोस्ट करने के ठीक एक घंटे बाद, एक एआई एजेंट ने एक “सौम्य रूप से उपयोग किया जाने वाला” कैनन कैमरा और एक “लगभग नई पोर्टेबल एयर कंडीशनिंग इकाई की पेशकश की, जिसका मैंने कभी उपयोग नहीं किया।”

मेटा ने गुरुवार को एक लिखित बयान में कहा कि “यह एक नई तकनीक है और हमेशा वह उत्तर नहीं दे सकती जो हम चाहते हैं, जो सभी जेनरेटर एआई सिस्टम के लिए समान है।” कंपनी ने कहा कि वह फीचर्स को बेहतर बनाने पर लगातार काम कर रही है।

जिस वर्ष चैटजीपीटी ने मानव-जैसी लेखन, चित्र, कोड और ध्वनि उत्पन्न करने वाली एआई तकनीक के लिए उन्माद पैदा किया, तकनीकी उद्योग और शिक्षा जगत ने बड़े पैमाने पर डेटासेट पर प्रशिक्षित लगभग 149 बड़े एआई सिस्टम पेश किए हैं, जो पिछले वर्ष की तुलना में दोगुने से भी अधिक है, अध्ययन में पाया गया है . स्टैनफोर्ड विश्वविद्यालय सर्वेक्षण.

स्टैनफोर्ड इंस्टीट्यूट फॉर ह्यूमन-सेंटर्ड आर्टिफिशियल इंटेलिजेंस के शोध निदेशक नेस्टर मास्लेज ने कहा, वे अंततः एक सीमा तक पहुंच सकते हैं – कम से कम जब डेटा की बात आती है।

“मुझे लगता है कि यह स्पष्ट है कि यदि आप अधिक डेटा पर मॉडल विकसित करते हैं, तो वे बेहतर से बेहतर हो सकते हैं,” उन्होंने कहा। “लेकिन साथ ही, ये सिस्टम पहले से ही इंटरनेट पर मौजूद सभी डेटा के प्रतिशत पर प्रशिक्षित हैं।”

डेटा में वृद्धि – जिसे केवल तकनीकी दिग्गज ही वहन कर सकते हैं, उस कीमत पर प्राप्त और ग्रहण किया जाता है, और तेजी से मुकदमेबाजी और कॉपीराइट मुकदमों के अधीन है – सुधार उत्पन्न करना जारी रखेगा। मासलेज ने कहा, “फिर भी वे अभी भी अच्छी योजना बनाने में विफल हैं।” “वे अभी भी मतिभ्रम कर रहे हैं। वे अभी भी तर्क करने में गलतियाँ कर रहे हैं।”

उच्च-स्तरीय संज्ञानात्मक कार्यों और सामान्य ज्ञान तर्क में सक्षम एआई सिस्टम को प्राप्त करने के लिए – जहां मनुष्य अभी भी उत्कृष्टता प्राप्त करते हैं – बड़े मॉडल के निर्माण से परे जाने की आवश्यकता हो सकती है।

जेनेरिक एआई को अपनाने का प्रयास करने वाली कंपनियों की बाढ़ के लिए, वे जो मॉडल चुनते हैं वह लागत सहित कई कारकों पर निर्भर करता है। भाषा मॉडल, विशेष रूप से, ग्राहक सेवा चैटबॉट्स को सशक्त बनाने, रिपोर्ट और वित्तीय जानकारी लिखने और लंबे दस्तावेज़ों को सारांशित करने के लिए उपयोग किया गया है।

केपीएमजी में प्रौद्योगिकी परामर्श नेता टॉड लोहर ने कहा, “आप देखते हैं कि कंपनियां फिट की तलाश में हैं, वे जो करने की कोशिश कर रहे हैं उसके लिए प्रत्येक अलग-अलग मॉडल का परीक्षण कर रही हैं और कुछ ऐसे मॉडल ढूंढ रही हैं जो दूसरों की तुलना में कुछ क्षेत्रों में बेहतर हैं।”

अन्य कंपनियों को अपनी एआई सेवाएं बेचने वाले अन्य मॉडल डेवलपर्स के विपरीत, मेटा अपने एआई उत्पादों को बड़े पैमाने पर उपभोक्ताओं के लिए डिज़ाइन करता है – यानी, जो इसके एआई-संचालित सोशल नेटवर्क विज्ञापन का उपयोग करते हैं। मेटा में एआई रिसर्च के उपाध्यक्ष जोएल पिनेउ ने पिछले हफ्ते लंदन में एक कार्यक्रम में कहा कि कंपनी का लक्ष्य समय के साथ लामा द्वारा संचालित मेटा एआई को “दुनिया में सबसे उपयोगी सहायक” बनाना है।

उन्होंने कहा, “कई मायनों में, आज हमारे पास जो मॉडल हैं, वे पांच साल में आने वाले मॉडलों की तुलना में आसान होंगे।”

लेकिन उन्होंने कहा कि “मेज पर सवाल” यह है कि क्या शोधकर्ता इसके बड़े लामा 3 मॉडल को ठीक करने में सक्षम हैं ताकि इसका उपयोग करना सुरक्षित हो और उदाहरण के लिए, मतिभ्रम या घृणास्पद भाषण का कारण न बने। Google और OpenAI की मुख्य स्वामित्व प्रणालियों के विपरीत, मेटा ने अब तक अधिक खुले दृष्टिकोण की वकालत की है, जिससे इसके AI सिस्टम के प्रमुख घटकों को दूसरों के उपयोग के लिए सार्वजनिक किया जा सके।

पिनौ ने कहा, “यह सिर्फ एक तकनीकी सवाल नहीं है।” “यह एक सामाजिक प्रश्न है। हम इन मॉडलों से क्या व्यवहार चाहते हैं? हम इसे कैसे आकार दे सकते हैं? और यदि हम अपने मॉडल को उचित रूप से सामाजिककृत किए बिना अधिक से अधिक सामान्य और शक्तिशाली विकसित करना जारी रखते हैं, तो हमें एक बड़ी समस्या होने वाली है हमारे हाथ।