एआई-जनित चुनाव धोखाधड़ी से निपटने के लिए टेक कंपनियों ने समझौते पर हस्ताक्षर किए

बड़ी तकनीकी कंपनियों ने लोकतंत्र को बाधित करने के लिए कृत्रिम बुद्धिमत्ता उपकरणों के इस्तेमाल को रोकने के लिए स्वेच्छा से “उचित सावधानियां” अपनाने के लिए शुक्रवार को एक समझौते पर हस्ताक्षर किए। चुनाव दुनिया भर में। तकनीकी के फ्रेम एडोब, वीरांगना, गूगल, मेटा, माइक्रोसॉफ्ट, ओपनएआई और टिकटॉक म्यूनिख सुरक्षा सम्मेलन में एक साथ आए और एक नए स्वैच्छिक ढांचे की घोषणा की कि वे एआई-जनित डीपफेक का जवाब कैसे देंगे जो जानबूझकर मतदाताओं को गुमराह करते हैं। आईबीएम और एलोन मस्क की एक्स सहित तेरह अन्य कंपनियों ने भी समझौते पर हस्ताक्षर किए।

मेटा के वैश्विक मामलों के संघ के अध्यक्ष निक क्लेग ने कहा, “हर कोई मानता है कि कोई भी प्रौद्योगिकी कंपनी, कोई सरकार, कोई भी नागरिक समाज संगठन इस तकनीक के आगमन और इसके संभावित हानिकारक उपयोग को अकेले संबोधित करने में सक्षम नहीं है।” शिखर सम्मेलन से पहले एक साक्षात्कार में फेसबुक और इंस्टाग्राम की मूल कंपनी।

यह सौदा काफी हद तक प्रतीकात्मक है, लेकिन तेजी से यथार्थवादी एआई-जनरेटेड छवियों, ऑडियो और वीडियो को लक्षित करता है “जो लोकतांत्रिक चुनाव में राजनीतिक उम्मीदवारों, अधिकारियों चुनाव अधिकारियों और अन्य प्रमुख हितधारकों की उपस्थिति, आवाज या कार्यों को गलत तरीके से या भ्रामक रूप से बदल देते हैं, या जो गलत प्रदान करते हैं मतदाताओं को यह जानकारी देना कि वे कब, कहां और कैसे कानूनी रूप से मतदान कर सकते हैं। »

कंपनियां डीपफेक पर प्रतिबंध लगाने या हटाने के लिए प्रतिबद्ध नहीं हैं। इसके बजाय, समझौता उन तरीकों की रूपरेखा तैयार करता है जिनका उपयोग वे भ्रामक एआई सामग्री का पता लगाने और लेबल करने के प्रयास के लिए करेंगे जब यह उनके प्लेटफार्मों पर बनाया या वितरित किया जाता है। इसमें नोट किया गया है कि जब यह सामग्री फैलनी शुरू होगी तो कंपनियां सर्वोत्तम प्रथाओं को साझा करेंगी और “तेजी से और आनुपातिक प्रतिक्रियाएं” प्रदान करेंगी।

प्रतिबद्धताओं की अस्पष्टता और बाध्यकारी आवश्यकताओं की कमी ने संभवतः व्यवसायों की एक विस्तृत श्रृंखला को समझाने में मदद की, लेकिन मजबूत गारंटी की तलाश कर रहे लोकतंत्र समर्थक कार्यकर्ताओं और निगरानीकर्ताओं को निराश कर सकती है।

क्लेग ने कहा, “हर कंपनी की सामग्री नीतियों का अपना सेट होता है।”

“यह हर किसी पर एक स्ट्रेटजैकेट थोपने के बारे में नहीं है। और किसी भी मामले में, उद्योग में कोई भी यह नहीं सोचता है कि आप कालीन के नीचे चीजों को साफ़ करके और व्हेक-ए-मोल खेलने की कोशिश करके एक पूरी नई तकनीकी प्रतिमान से निपट सकते हैं। और खोजें आप जो कुछ भी सोचते हैं वह किसी को गुमराह कर सकता है। जर्मन शहर की वार्षिक सुरक्षा बैठक में हुआ समझौता तब हुआ है जब 50 से अधिक देशों को 2024 में राष्ट्रीय चुनाव कराने होंगे। कुछ ने पहले ही ऐसा कर लिया है, जिनमें बांग्लादेश, ताइवान, पाकिस्तान और हाल ही में इंडोनेशिया शामिल हैं।

एआई-जनित चुनाव हस्तक्षेप के प्रयास पहले ही शुरू हो चुके हैं, जैसे कि जब अमेरिकी राष्ट्रपति जो बिडेन की आवाज की नकल करने वाले एआई रोबोकॉल ने पिछले महीने न्यू हैम्पशायर के प्राथमिक चुनाव में लोगों को मतदान करने से हतोत्साहित करने का प्रयास किया था।

स्लोवाकिया के नवंबर चुनावों से कुछ ही दिन पहले, एआई-जनित ऑडियो रिकॉर्डिंग में एक उदारवादी उम्मीदवार को बीयर की कीमतें बढ़ाने और चुनाव में धांधली की योजना पर चर्चा करते हुए दिखाया गया था। तथ्य-जांचकर्ताओं ने तुरंत उन्हें गलत के रूप में पहचान लिया, लेकिन उन्हें पहले ही सोशल मीडिया पर वास्तविक के रूप में व्यापक रूप से साझा किया गया था।

राजनेताओं और अभियान समितियों ने भी प्रौद्योगिकी के साथ प्रयोग किया है, जिसमें मतदाताओं के साथ संवाद करने के लिए एआई चैटबॉट का उपयोग करने से लेकर विज्ञापनों में एआई-जनित छवियों को जोड़ने तक शामिल है।

इंडोनेशिया के चुनावों से पहले, एक राजनीतिक दल के नेता ने दिवंगत तानाशाह सुहार्तो के चेहरे और आवाज की क्लोनिंग करते हुए एक वीडियो साझा किया। एक्स पर पोस्ट से पता चला कि वीडियो एआई द्वारा तैयार किया गया था, लेकिन कुछ ऑनलाइन आलोचकों ने इसे मतदाताओं को डराने और प्रभावित करने के लिए एआई टूल का दुरुपयोग कहा।

शुक्रवार के समझौते में कहा गया है कि एआई-जनित डीपफेक का जवाब देने में, प्लेटफ़ॉर्म “संदर्भ और विशेष रूप से शैक्षिक, वृत्तचित्र, कलात्मक, व्यंग्यपूर्ण और राजनीतिक अभिव्यक्ति की सुरक्षा पर ध्यान देंगे।”

उन्होंने कहा कि कंपनियां भ्रामक एआई चुनाव सामग्री पर अपनी नीतियों के बारे में उपयोगकर्ताओं के साथ पारदर्शी होने पर ध्यान केंद्रित करेंगी और जनता को शिक्षित करने के लिए काम करेंगी कि वे एआई के नकली जाल में फंसने से कैसे बच सकते हैं।

कई कंपनियां पहले ही कह चुकी हैं कि वे अपने स्वयं के जेनरेटिव एआई टूल पर सुरक्षा उपाय कर रही हैं जो छवियों और ऑडियो में हेरफेर कर सकते हैं, जबकि एआई-जनित सामग्री को पहचानने और लेबल करने के लिए काम कर रहे हैं ताकि सोशल मीडिया उपयोगकर्ताओं को पता चले कि वे जो देख रहे हैं वह वास्तविक है या नहीं। . लेकिन अधिकांश प्रस्तावित समाधान अभी तक लागू नहीं किए गए हैं, और कंपनियों को और अधिक करने के लिए नियामकों और अन्य लोगों के दबाव का सामना करना पड़ा है।

यह दबाव संयुक्त राज्य अमेरिका में बढ़ गया है, जहां कांग्रेस ने अभी तक राजनीति में एआई को विनियमित करने के लिए कानून पारित नहीं किया है, जिससे एआई कंपनियों को बड़े पैमाने पर खुद को नियंत्रित करने के लिए छोड़ दिया गया है। संघीय कानून के अभाव में, कई राज्य चुनावों और अन्य अनुप्रयोगों में एआई के उपयोग पर अंकुश लगाने के तरीकों पर विचार कर रहे हैं।

संघीय संचार आयोग ने हाल ही में पुष्टि की है कि रोबोकॉल में एआई-जनरेटेड ऑडियो क्लिप कानून के खिलाफ हैं, लेकिन जब वे सोशल मीडिया या अभियान विज्ञापनों में प्रसारित होते हैं तो यह ऑडियो डीपफेक को कवर नहीं करता है।

दुष्प्रचार विशेषज्ञों ने चेतावनी दी है कि हालांकि एआई-संचालित डीपफेक विशेष रूप से चिंताजनक हैं क्योंकि इस साल उन पर ध्यान न दिए जाने और मतदाताओं को प्रभावित करने का जोखिम है, लेकिन दुष्प्रचार के सस्ते और सरल रूप एक बड़ा खतरा बने हुए हैं। समझौता इस पर भी जोर देता है, यह मानते हुए कि “पारंपरिक जोड़-तोड़ (“सस्ते नकली”) का उपयोग समान उद्देश्यों के लिए किया जा सकता है।”

कई सोशल मीडिया कंपनियों ने चुनावी प्रक्रियाओं के बारे में भ्रामक पोस्टों को रोकने के लिए पहले ही नीतियां लागू कर दी हैं – चाहे वे एआई-जनित हों या नहीं। उदाहरण के लिए, मेटा का कहना है कि यह “तिथियों, स्थानों, समय और मतदान के तरीकों, मतदाताओं को पंजीकृत करने, या जनगणना में भाग लेने” के बारे में गलत सूचना के साथ-साथ किसी की नागरिक भागीदारी में हस्तक्षेप करने के उद्देश्य से अन्य झूठे संदेशों को हटा देता है।

इंटीग्रिटी इंस्टीट्यूट के सह-संस्थापक और फेसबुक के पूर्व डेटा वैज्ञानिक जेफ एलन ने कहा कि यह सौदा एक “सकारात्मक कदम” प्रतीत होता है, लेकिन वह अभी भी सोशल मीडिया कंपनियों को गलत सूचना से निपटने के लिए अन्य बुनियादी कदम उठाते देखना चाहेंगे, जैसे कि निर्माण सामग्री अनुशंसा प्रणालियाँ जो अन्य सभी चीज़ों से ऊपर सहभागिता को प्राथमिकता नहीं देती हैं।

शुक्रवार के सौदे में मदद करने वाले प्रमुख प्लेटफार्मों के अलावा, अन्य हस्ताक्षरकर्ताओं में चैटबॉट डेवलपर्स एंथ्रोपिक और इन्फ्लेक्शन एआई शामिल हैं; वॉयस क्लोन स्टार्टअप इलेवनलैब्स; चिप डिजाइनर आर्म होल्डिंग्स; सुरक्षा कंपनियाँ McAfee और TrendMicro; और स्टेबिलिटी एआई, स्टेबल डिफ्यूजन इमेज जनरेटर बनाने के लिए जाना जाता है।

एक अन्य लोकप्रिय एआई छवि जनरेटर, मिडजॉर्नी इस सौदे से विशेष रूप से अनुपस्थित है। सैन फ्रांसिस्को स्थित स्टार्टअप ने शुक्रवार को टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।

का समावेश मस्क ने पुराने ट्विटर पर कब्ज़ा करने के बाद कंटेंट मॉडरेशन टीमों को काफी कम कर दिया और खुद को “स्वतंत्र भाषण निरपेक्षवादी” बताया।

लेकिन शुक्रवार को एक बयान में, एक्स सीईओ लिंडा याकारिनो ने कहा, “स्वतंत्र और निष्पक्ष चुनाव सुनिश्चित करना प्रत्येक नागरिक और प्रत्येक व्यवसाय की जिम्मेदारी है।”

उन्होंने कहा, “एक्स अपनी भूमिका निभाने के लिए प्रतिबद्ध है, अभिव्यक्ति की स्वतंत्रता की रक्षा करते हुए और पारदर्शिता को अधिकतम करते हुए एआई खतरों से निपटने के लिए अपने साथियों के साथ सहयोग कर रहा है।”