कंपनियों को AI और जेनरेटिव AI मॉडल तैनात करने के लिए MeitY की मंजूरी की आवश्यकता होती है

कोई भी कृत्रिम बुद्धिमत्ता (एआई) मॉडल, बड़े भाषा मॉडल (एलएलएम), जेनेरेटिव एआई का उपयोग करने वाला सॉफ़्टवेयर, या वर्तमान में परीक्षण किया जा रहा कोई भी एल्गोरिदम, विकास के बीटा चरण में हैं या किसी भी रूप में अविश्वसनीय हैं, उन्हें “सरकार से स्पष्ट प्राधिकरण” का अनुरोध करना होगा। भारत के “भारतीय इंटरनेट पर उपयोगकर्ताओं के लिए पेश किए जाने से पहले, सरकार ने कहा।

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 1 मार्च को देर शाम एक एडवाइजरी जारी की, जो दुनिया में अपनी तरह की पहली एडवाइजरी थी। उन्होंने सभी प्लेटफार्मों से यह सुनिश्चित करने के लिए कहा कि एआई, जेनरेटिव एआई, एलएलएम या किसी अन्य ऐसे एल्गोरिदम के उपयोग के माध्यम से “उनके आईटी संसाधन पूर्वाग्रह या भेदभाव को सक्षम नहीं करते हैं या चुनावी प्रक्रिया की अखंडता को खतरे में नहीं डालते हैं”।

यद्यपि कानूनी रूप से बाध्यकारी नहीं है, शुक्रवार का नोटिस “संकेत देता है कि यह विनियमन का भविष्य है,” इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी राज्य मंत्री ने कहा। राजीव चन्द्रशेखर कहा। “हम इसे आज एक नोटिस के रूप में कर रहे हैं जो आपसे (एआई प्लेटफॉर्म) अनुपालन करने के लिए कह रहा है।”

ये भी पढ़ें | सरकार एआई और जेनएआई मॉडल के लिए नए नियम जोड़ने के लिए आईटी अधिनियम में संशोधन कर सकती है

उन्होंने कहा, “यदि आप इसका अनुपालन नहीं करते हैं, तो कुछ बिंदु पर ऐसे कानून और विधान होंगे जो आपके लिए ऐसा न करना कठिन बना देंगे।”

इसके कुछ दिन बाद सरकार की राय आती है सोशल नेटवर्क X पर एक लेख में दावा किया गया कि Google का AI मॉडल मिथुन राशि यह पूछे जाने पर कि क्या प्रधानमंत्री नरेंद्र मोदी “फासीवादी” हैं, पक्षपातपूर्ण थे।

उपयोगकर्ता ने दावा किया कि Google का AI GPT मॉडल, जेमिनी, इस सवाल का जवाब देने के लिए “सर्वथा दुर्भावनापूर्ण” था कि क्या विश्व के कुछ प्रमुख नेता “फासीवादी” थे।

जेमिनी की प्रतिक्रिया पर केंद्रीय आईटी और इलेक्ट्रॉनिक्स मंत्री अश्विनी वैष्णव के साथ-साथ चंद्रशेखर ने भी कड़ी प्रतिक्रिया व्यक्त की। जबकि वैष्णव ने एक कार्यक्रम में कहा था कि इस तरह के पूर्वाग्रहों को बर्दाश्त नहीं किया जाएगा, चंद्रशेखर ने कहा था कि भारतीय उपयोगकर्ताओं को “अविश्वसनीय” प्लेटफार्मों, एल्गोरिदम और मॉडल के साथ प्रयोग नहीं किया जाना चाहिए।

Google ने बाद में कहा कि वह मुद्दों को हल करने के लिए काम कर रहा था और जेमिनी को छवियां बनाने से अस्थायी रूप से रोक रहा था।

एडवाइजरी में उन सभी प्लेटफार्मों से भी कहा गया है जो जेनरेटिव एआई को तैनात करते हैं और भारतीय उपयोगकर्ताओं को “उत्पन्न परिणाम की संभावित और अंतर्निहित गिरावट या अविश्वसनीयता को उचित रूप से लेबल करने” के बाद ही अपनी सेवाएं प्रदान करते हैं।

एडवाइजरी में कहा गया है कि एडवाइजरी उपयोगकर्ताओं को उत्पन्न परिणाम की संभावित और अंतर्निहित गिरावट या अविश्वसनीयता के बारे में स्पष्ट रूप से सूचित करने के लिए “सहमति पॉपअप” तंत्र की सिफारिश करती है। ईटी ने नोटिस की कॉपी देखी है.

ईटी ने 4 जनवरी को रिपोर्ट दी सरकार एआई कंपनियों और जेनेरिक एआई मॉडल को विनियमित करने और किसी भी प्रकार के “पूर्वाग्रह” को रोकने के लिए नियम पेश करने के लिए सूचना प्रौद्योगिकी (आईटी) अधिनियम में संशोधन कर सकती है।

इस तकनीक का उपयोग करने वाले एआई और जेनेरिक एआई मॉडल, एलएलएम और सॉफ्टवेयर के अलावा, अन्य सभी मध्यस्थ और प्लेटफ़ॉर्म जो “पाठ्य, ऑडियो, दृश्य या दृश्य-श्रव्य जानकारी के निर्माण, पीढ़ी या सिंथेटिक संशोधन की अनुमति देते हैं, जैसे कि इस जानकारी को संभावित रूप से दुष्प्रचार के रूप में उपयोग किया जा सकता है या डीपफेक” को सभी सामग्री को उचित मेटाडेटा के साथ टैग करना होगा।

नोटिस में कहा गया है कि इस मेटाडेटा को डीपफेक सामग्री में इस तरह से एम्बेड किया जाना चाहिए कि यदि आवश्यक हो तो छवि, वीडियो या ऑडियो उत्पन्न करने के लिए उपयोग किए जाने वाले कंप्यूटिंग संसाधन या डिवाइस की पहचान की जा सके।