अमेरिका ने एआई-पावर्ड वॉयस रोबोकॉल पर प्रतिबंध लगाया: जानिए क्यों

वॉयस क्लोनिंग के मामलों में वृद्धि के कारण अमेरिका ने एआई-जनरेटेड रोबोकॉल पर प्रतिबंध लगा दिया है, जिसने देश में हजारों नागरिकों को धोखा दिया है।

कृत्रिम बुद्धिमत्ता का उपयोग करके बनाए गए भ्रामक ऑडियो और दृश्य नए नहीं हैं, लेकिन एआई तकनीक में हालिया प्रगति ने उन्हें बनाना आसान और पता लगाना कठिन बना दिया है।

संघीय संचार आयोग ने कहा, “बुरे अभिनेता कमजोर परिवार के सदस्यों से जबरन वसूली करने, मशहूर हस्तियों का रूप धारण करने और मतदाताओं को गलत जानकारी देने के लिए अवांछित रोबोकॉल में एआई-जनित आवाज़ों का उपयोग कर रहे हैं।

“वॉयस क्लोनिंग,” एफसीसी ने कहा, “बुलाई गई पार्टी को यह विश्वास दिलाया जा सकता है कि एक विश्वसनीय व्यक्ति, या कोई ऐसा व्यक्ति जिसकी वे परवाह करते हैं जैसे कि परिवार का सदस्य, चाहता है कि वे ऐसी कार्रवाई करें जो वे अन्यथा नहीं करेंगे।” .

यह कदम न्यू हैम्पशायर के डेमोक्रेटिक प्राथमिक चुनाव में लोगों को वोट देने से रोकने के लिए राष्ट्रपति जो बिडेन का रूप धारण करने वाली एक फर्जी रोबोकॉल के बाद आया है।

अधिकारियों ने कहा कि कंपनी को एक संघर्ष विराम पत्र भेजा गया है और एक आपराधिक जांच चल रही है।

एफसीसी कमिश्नर जेफ्री स्टार्क्स ने कहा, “जनरेटिव एआई के उपयोग ने मतदाता दमन योजनाओं और फर्जी रोबोकॉल की उच्च संभावना के साथ अभियान सीज़न में एक नया खतरा ला दिया है।”

यह फैसला, जो तत्काल प्रभाव से लागू होता है, नियामक को उन कंपनियों पर जुर्माना लगाने की अनुमति देता है जो अपनी कॉल में एआई-जनरेटेड आवाजों का उपयोग करते हैं या उन्हें ले जाने वाले सेवा प्रदाताओं पर प्रतिबंध लगाते हैं।