जांच से पता चला कि टेलीग्राम पर ‘दुःस्वप्न’ एआई बॉट्स किसी की भी नग्न तस्वीरें बना सकते हैं रुझान
एक हालिया जांच से पता चला है कि एआई-संचालित चैटबॉट्स पर टेलीग्राम लाखों उपयोगकर्ताओं द्वारा वास्तविक लोगों की नग्न और स्पष्ट छवियां बनाने के लिए उपयोग किया जा रहा है। ये बॉट उपयोगकर्ताओं को कुछ क्लिक के साथ फ़ोटो बदलने, बनाने की अनुमति देते हैं डीपफेक जो कपड़े उतारता है या यौन गतिविधि गढ़ता है।
की एक रिपोर्ट के मुताबिक तारयुक्तअब लगभग 4 मिलियन उपयोगकर्ता हर महीने इन चैटबॉट्स का उपयोग डीपफेक बनाने के लिए कर रहे हैं। हेनरी एजडर जैसे विशेषज्ञों ने स्थिति के बारे में चेतावनी दी है, खासकर युवा लड़कियों और महिलाओं के लिए ऐसे बॉट्स के गंभीर जोखिमों को ध्यान में रखते हुए।
महिलाओं, लड़कियों के लिए दुःस्वप्न
एजडर, जिन्होंने चार साल पहले टेलीग्राम पर इन स्पष्ट चैटबॉट्स की खोज की थी, ने पहुंच में आसानी और बड़ी संख्या में लोगों द्वारा सक्रिय रूप से उनका उपयोग करने का हवाला देते हुए स्थिति को “बुरे सपने” के रूप में वर्णित किया।
“यह वास्तव में चिंताजनक है कि ये उपकरण – जो वास्तव में जीवन को बर्बाद कर रहे हैं और मुख्य रूप से युवा लड़कियों और महिलाओं के लिए एक बहुत ही भयानक परिदृश्य पैदा कर रहे हैं – अभी भी दुनिया के सबसे बड़े ऐप्स में से एक, सतही वेब पर पहुंचना और ढूंढना बहुत आसान है। दुनिया, “उन्होंने कहा।
अतीत में, टेलर स्विफ्ट और जेना ओर्टेगा जैसी मशहूर हस्तियां डीपफेक का शिकार हो चुकी हैं, लेकिन इससे भी अधिक चिंता की बात यह है कि किशोर लड़कियों को निशाना बनाए जाने की खबरें हैं, जिससे सेक्सटॉर्शन की घटनाएं हो रही हैं। (यह भी पढ़ें: अमेरिकी सांसदों ने टेलर स्विफ्ट एआई को डीपफेक ‘भयानक’ बताया, नए कानून की मांग की)
सेक्सटॉर्शन के लिए इस्तेमाल की गई छवियां
इन बॉट्स के माध्यम से उत्पन्न छवियों का उपयोग अंतरंग साझेदारों द्वारा ब्लैकमेल या लंबे समय तक दुर्व्यवहार के रूप में भी किया जा सकता है। एक सर्वेक्षण से पता चला है कि 40% अमेरिकी छात्रों ने स्कूलों में डीपफेक प्रसारित होते देखने की सूचना दी है।
टेलीग्राम, हालांकि मुख्य रूप से अनुवाद और अलर्ट के लिए जाना जाता है, इन हानिकारक बॉट्स का केंद्र बन गया है।
जब वायर्ड ने स्पष्ट चैटबॉट्स के बारे में संपर्क किया, तो कंपनी ने कोई जवाब नहीं दिया लेकिन बॉट अचानक प्लेटफॉर्म से गायब हो गए। हालाँकि, कई रचनाकारों ने अगले दिन “एक और बॉट बनाने” की कसम खाई।
टेलीग्राम के सीईओ पावेल डूरोव को इस साल की शुरुआत में बाल पोर्नोग्राफी को बढ़ावा देने के आरोप में गिरफ्तार किया गया था, लेकिन मंच के संचालन में थोड़ा बदलाव आया है।
“बिल्डिंग तकनीक वैसे भी काफी कठिन है। कोई भी नवप्रवर्तक कभी भी नए उपकरण नहीं बनाएगा यदि उन्हें पता हो कि उन उपकरणों के संभावित दुरुपयोग के लिए उन्हें व्यक्तिगत रूप से जिम्मेदार ठहराया जा सकता है,” उन्होंने कहा था। (यह भी पढ़ें: सैन फ्रांसिस्को उन वेबसाइटों के पीछे जाता है जो महिलाओं और लड़कियों की एआई डीपफेक न्यूड तस्वीरें बनाती हैं)
Source link
