Google का कहना है कि उसका AI छवि जनरेटर कभी-कभी विविधता के लिए “अधिक क्षतिपूर्ति” करता है

गूगल एक नए कृत्रिम बुद्धिमत्ता छवि जनरेटर की दोषपूर्ण तैनाती के लिए शुक्रवार को माफ़ी मांगी, यह स्वीकार करते हुए कि कुछ मामलों में उपकरण लोगों की एक विस्तृत श्रृंखला की खोज करके “अति क्षतिपूर्ति” करेगा, भले ही ऐसी सीमा का कोई मतलब न हो।

इसकी छवियों में रंग-बिरंगे लोगों को ऐतिहासिक संदर्भों में क्यों रखा गया है, जहां वे आम तौर पर नहीं पाए जाते, इसका आंशिक स्पष्टीकरण Google द्वारा घोषणा किए जाने के एक दिन बाद आया कि वह अपने जेमिनी चैटबॉट को लोगों वाली छवियां बनाने से अस्थायी रूप से रोक रहा है। यह सोशल मीडिया पर कुछ उपयोगकर्ताओं के आक्रोश के जवाब में था, जिसमें दावा किया गया था कि टूल में श्वेत-विरोधी पूर्वाग्रह था, जिस तरह से इसने लिखित संकेतों के जवाब में नस्लीय रूप से विविध छवियों का एक सेट तैयार किया था।

Google और अन्य कंपनियों में सर्च इंजन चलाने वाले वरिष्ठ उपाध्यक्ष प्रभाकर राघवन ने शुक्रवार को एक ब्लॉग पोस्ट में कहा, “यह स्पष्ट है कि यह सुविधा लक्ष्य से चूक गई।” “उत्पन्न की गई कुछ छवियां गलत और आपत्तिजनक भी हैं। हम उपयोगकर्ताओं की प्रतिक्रिया के लिए आभारी हैं और खेद है कि सुविधा अच्छी तरह से काम नहीं कर पाई।”

राघवन ने विशिष्ट उदाहरणों का उल्लेख नहीं किया, लेकिन इस सप्ताह सोशल मीडिया पर जिन लोगों ने ध्यान आकर्षित किया, उनमें एक अश्वेत महिला को संयुक्त राज्य अमेरिका के संस्थापक पिता के रूप में चित्रित करने वाली और काले और एशियाई लोगों को नाज़ी-युग के जर्मन सैनिकों की तरह दिखाने वाली छवियां थीं। एसोसिएटेड प्रेस स्वतंत्र रूप से यह सत्यापित करने में सक्षम नहीं है कि इन छवियों को उत्पन्न करने के लिए किन संकेतों का उपयोग किया गया था।

Google ने लगभग तीन सप्ताह पहले अपने जेमिनी चैटबॉट, जिसे पहले बार्ड के नाम से जाना जाता था, में नई छवि निर्माण सुविधा जोड़ी थी। इसे Imagen 2 नामक एक पुराने Google खोज प्रयोग पर बनाया गया था।

Google कुछ समय से जानता है कि ऐसे उपकरण बोझिल हो सकते हैं। 2022 के एक तकनीकी पेपर में, इमेजेन विकसित करने वाले शोधकर्ताओं ने चेतावनी दी कि जेनरेटिव एआई टूल का इस्तेमाल उत्पीड़न या गलत सूचना फैलाने के लिए किया जा सकता है “और सामाजिक बहिष्कार और पूर्वाग्रह और सांस्कृतिक बारे में कई चिंताएं पैदा करता है”। शोधकर्ताओं ने फिर कहा कि इन विचारों ने Google को इमेजेन या उसके अंतर्निहित कोड का “सार्वजनिक डेमो” प्रकाशित नहीं करने के निर्णय के लिए प्रेरित किया।

तब से, चैटजीपीटी चैटबॉट के आगमन से उभरती प्रौद्योगिकी में रुचि को भुनाने की कोशिश कर रही प्रौद्योगिकी कंपनियों के बीच प्रतिस्पर्धात्मक दौड़ के कारण जनरेटिव एआई उत्पादों को सार्वजनिक रूप से लॉन्च करने का दबाव बढ़ गया है। ओपनएआई। मिथुन राशि की समस्याएं हाल ही में किसी छवि जनरेटर को प्रभावित करने वाली पहली समस्या नहीं हैं। Microsoft को कई सप्ताह पहले अपने स्वयं के डिज़ाइनर टूल को समायोजित करना पड़ा क्योंकि कुछ लोगों ने इसका उपयोग टेलर स्विफ्ट और अन्य मशहूर हस्तियों की नकली अश्लील छवियां बनाने के लिए किया था। अध्ययनों से यह भी पता चला है कि एआई छवि जनरेटर अपने प्रशिक्षण डेटा में पाए जाने वाले नस्लीय और लैंगिक रूढ़िवादिता को बढ़ा सकते हैं, और फिल्टर के बिना, जब उनसे विभिन्न संदर्भों में एक व्यक्ति को उत्पन्न करने के लिए कहा जाता है, तो उन्हें हल्की चमड़ी वाले पुरुषों को दिखाने की अधिक संभावना होती है।

“जब हमने जेमिनी में इस सुविधा का निर्माण किया, तो हमने इसे यह सुनिश्चित करने के लिए ट्यून किया कि यह उन कुछ नुकसानों में न पड़े जो हमने छवि निर्माण तकनीक के साथ अतीत में देखे हैं, जैसे हिंसक छवियां बनाना या यौन रूप से स्पष्ट करना, या वास्तविक लोगों का चित्रण करना। , “राघवन ने शुक्रवार को कहा। “और चूंकि हमारे उपयोगकर्ता दुनिया भर से आते हैं, हम चाहते हैं कि यह सभी के लिए अच्छा काम करे।”

उन्होंने कहा कि बहुत से लोग फ़ुटबॉल खिलाड़ियों या कुत्ते को टहलाते किसी व्यक्ति की फ़ोटो मांगते समय “विभिन्न प्रकार के लोगों को पाना चाहेंगे”। लेकिन किसी विशिष्ट जाति या जातीयता या सांस्कृतिक पृष्ठभूमि के किसी व्यक्ति की खोज करने वाले उपयोगकर्ताओं को “निश्चित रूप से एक उत्तर मिलना चाहिए जो आप जो पूछ रहे हैं उसे सटीक रूप से दर्शाता है।”

हालाँकि उन्होंने कुछ संकेतों के जवाब में जरूरत से ज्यादा मुआवजा दिया, दूसरों में वह “अपेक्षा से अधिक सतर्क थे और कुछ संकेतों का पूरी तरह से जवाब देने से इनकार कर दिया – कुछ बहुत ही सहज संकेतों को संवेदनशील समझकर गलत व्याख्या की।”

उन्होंने यह नहीं बताया कि उनका क्या मतलब है, लेकिन शुक्रवार को किए गए टूल के परीक्षणों के अनुसार, जेमिनी ने विरोध आंदोलनों जैसे कुछ विषयों पर अनुरोधों को व्यवस्थित रूप से खारिज कर दिया, जिसमें उन्होंने अरब स्प्रिंग, जॉर्ज फ्लॉयड विरोध या तियानमेन पर छवियां उत्पन्न करने से इनकार कर दिया। वर्ग। एक मामले में, चैटबॉट ने कहा कि वह गलत सूचना के प्रसार या “संवेदनशील विषयों को तुच्छ बनाने” में योगदान नहीं देना चाहता था।

जेमिनी की पोस्ट पर इस सप्ताह की अधिकांश नाराजगी एक्स, पूर्व में ट्विटर पर उत्पन्न हुई, और सोशल मीडिया प्लेटफॉर्म के मालिक, एलोन मस्क द्वारा इसे बढ़ाया गया, जिन्होंने Google की आलोचना करते हुए उसे “पागल नस्लवादी और सभ्यता-विरोधी प्रोग्रामिंग” बताया। मस्क, जो अपने स्वयं के एआई स्टार्टअप के मालिक हैं, ने अपने कथित उदारवादी पूर्वाग्रह के लिए प्रतिद्वंद्वी एआई डेवलपर्स के साथ-साथ हॉलीवुड की भी अक्सर आलोचना की है।

राघवन ने कहा कि चैटबॉट की लोगों को फिर से दिखाने की क्षमता को चालू करने से पहले Google “पूरी तरह से परीक्षण” करेगा।

वाशिंगटन विश्वविद्यालय के एक शोधकर्ता सोरोजीत घोष, जिन्होंने एआई छवि जनरेटर में पूर्वाग्रह का अध्ययन किया है, ने शुक्रवार को कहा कि वह निराश हैं कि राघवन का संदेश एक चेतावनी के साथ समाप्त हुआ कि Google के नेता “यह वादा नहीं कर सकते कि मिथुन कभी-कभी शर्मनाक, गलत, या उत्पन्न नहीं करेगा आपत्तिजनक छवियां।” परिणाम।”

घोष ने कहा, एक ऐसी कंपनी के लिए जिसने अपने खोज एल्गोरिदम को बेहतर बनाया है और “दुनिया में डेटा के सबसे बड़े भंडारों में से एक है, सटीक या हानिरहित परिणाम उत्पन्न करना एक बहुत ही कम बार होना चाहिए, जिस पर हम उसे जवाबदेह ठहरा सकते हैं।”