डीपफेक के प्रसार के लिए प्रतिबंधों का निवारक प्रभाव हो सकता है: कट्स

दंड प्रावधान पर निवारक प्रभाव पड़ सकता है विकास और प्रसार वैश्विक थिंक टैंक के एक वरिष्ठ अधिकारी ने डीपफेक और दुष्प्रचार के बारे में बताया कप इंटरनेशनल ने एआई-जनित सामग्री के दुरुपयोग को नियंत्रित करने के लिए तकनीकी हस्तक्षेप की तैनाती का आह्वान करते हुए कहा।

सीयूटीएस इंटरनेशनल रिसर्च के निदेशक अमोल कुलकर्णी ने पीटीआई को बताया कि इंटरनेट उपयोगकर्ताओं को सामग्री की प्रामाणिकता को सत्यापित करने के लिए पर्याप्त अवसरों की आवश्यकता होगी और चुनावी मौसम के दौरान यह महत्वपूर्ण हो जाता है, जब तथ्य-जांचकर्ता विश्वसनीय तथ्यों और विश्वसनीय पत्रकारों की भूमिका महत्वपूर्ण हो जाती है।

उन्होंने कहा कि हालांकि सरकार का 15 मार्च का नोटिस प्राधिकरण आवश्यकताओं को हटा देता है, लेकिन यह इंटरनेट पर अच्छे विकल्प चुनने के लिए उपयोगकर्ताओं को जानकारी का खुलासा करने पर भरोसा करता है।

“हालांकि पारदर्शिता अच्छी है, उपयोगकर्ता की यात्रा के दौरान सूचना अधिभार और पॉप-अप उनके अनुभव की गुणवत्ता को कम कर सकते हैं। अन्य कार्यान्वित प्रौद्योगिकी और जवाबदेही समाधानों के साथ सूचना आवश्यकताओं को संतुलित करने की आवश्यकता है जो डीपफेक और दुष्प्रचार की समस्या का समाधान कर सकते हैं। कुलकर्णी ने कहा.

प्रधानमंत्री नरेंद्र मोदी से संबंधित प्रश्नों पर Google के AI प्लेटफॉर्म की प्रतिक्रिया पर विवाद के बाद, सरकार ने 1 मार्च को सोशल मीडिया और अन्य प्लेटफार्मों को परीक्षण किए जा रहे AI मॉडल को लेबल करने और अवैध सामग्री की मेजबानी को रोकने के लिए एक नोटिस जारी किया।

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने बिचौलियों और प्लेटफार्मों को जारी सलाह में अनुपालन न करने की स्थिति में आपराधिक कार्रवाई की चेतावनी दी है।

पिछले नोटिस में संस्थाओं को परीक्षण या अविश्वसनीय कृत्रिम बुद्धिमत्ता (एआई) मॉडल को तैनात करने के लिए सरकार की मंजूरी लेने की आवश्यकता थी और उन्हें “संभव और अंतर्निहित गिरावट या उत्पन्न परिणामों की विश्वसनीयता की कमी” के रूप में लेबल करने के बाद ही तैनात किया गया था। इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने 15 मार्च को एआई-जनित सामग्री के उपयोग और तैनाती पर एक संशोधित सलाह जारी की।

आईटी मंत्रालय ने अप्रयुक्त और अविकसित एआई मॉडल के लिए सरकारी अनुमोदन की आवश्यकता को हटा दिया, लेकिन एआई-जनित सामग्री को लेबल करने और उपयोगकर्ताओं को उत्पन्न परिणाम की संभावित अंतर्निहित गिरावट और अविश्वसनीयता के बारे में सूचित करने की आवश्यकता पर जोर दिया।

कुलकर्णी ने कहा कि डीपफेक और दुष्प्रचार की समस्या को हल करने के लिए इंटरनेट पारिस्थितिकी तंत्र में सभी हितधारकों की जिम्मेदारी को स्पष्ट करने की आवश्यकता होगी: डेवलपर्स, अपलोडर, ब्रॉडकास्टर, प्लेटफॉर्म और सामग्री उपभोक्ता।

उन्होंने कहा, “डीपफेक और हानिकारक दुष्प्रचार के विकास और प्रसार के लिए आपराधिक प्रावधान भी एक निवारक प्रभाव पैदा कर सकते हैं। संभावित हानिकारक सामग्री को चिह्नित करने और ऐसी सामग्री के उपयोग को उचित ठहराने के लिए डेवलपर्स और प्रसारकों पर बोझ डालने के लिए प्रौद्योगिकी समाधान भी डिजाइन किए जा सकते हैं।” . .