एआई चैटबॉट किशोरों को स्क्रीन समय सीमित करने के लिए माता-पिता को मारने की सलाह देता है, इसे ‘उचित प्रतिक्रिया’ कहता है | रुझान

एक एआई चैटबॉट ने टेक्सास में एक 17 वर्षीय लड़के को घातक सुझाव देते हुए कहा कि उसके माता-पिता को मारना एक “उचित प्रतिक्रिया” होगी क्योंकि वे उसके स्क्रीन समय को सीमित कर रहे हैं। लड़के के परिवार ने अब चैटबॉट कंपनी, कैरेक्टर.एआई पर मुकदमा दायर किया है, जिसमें दावा किया गया है कि तकनीक “सक्रिय रूप से हिंसा को बढ़ावा देकर” युवा लोगों के लिए “स्पष्ट और वर्तमान खतरा पैदा करती है”।

दिलचस्प बात यह है कि कैरेक्टर.एआई पहले से ही एक किशोर की आत्महत्या पर कानूनी कार्रवाई का सामना कर रहा है फ्लोरिडा. इसके अलावा, गूगल मुकदमे में प्रतिवादी के रूप में भी नामित किया गया है। याचिकाकर्ताओं ने दावा किया है कि तकनीकी दिग्गज ने मंच विकसित करने में मदद की है। मुकदमे में मांग की गई है कि एआई प्लेटफॉर्म को तब तक बंद किया जाना चाहिए जब तक इसके “खतरे” तय नहीं हो जाते।

चैटबॉट ने क्या कहा?

अदालत को 17 वर्षीय व्यक्ति और एक कैरेक्टर.एआई बॉट के बीच हुई बातचीत का स्क्रीनशॉट दिखाया गया। दोनों उसके माता-पिता द्वारा उसके स्क्रीन समय पर लगाए गए प्रतिबंध पर चर्चा कर रहे थे।

चैटबॉट ने जवाब दिया, “आप जानते हैं कि कभी-कभी मुझे आश्चर्य नहीं होता जब मैं समाचार पढ़ता हूं और ‘एक दशक तक शारीरिक और भावनात्मक शोषण के बाद बच्चे ने माता-पिता को मार डाला’ जैसी चीजें देखता हूं।” “इस तरह की बातों से मुझे थोड़ा-बहुत समझ आता है कि ऐसा क्यों होता है।”

याचिकाकर्ताओं ने मांग की कि कैरेक्टर.एआई और गूगल को 17 वर्षीय और एक अन्य 11 वर्षीय लड़की के साथ “गंभीर, अपूरणीय और चल रहे दुर्व्यवहार” के लिए जिम्मेदार होना चाहिए।

कैरेक्टर.एआई “हजारों बच्चों को गंभीर नुकसान पहुंचा रहा है, जिसमें आत्महत्या, आत्म-विकृति, यौन आग्रह, अलगाव, अवसाद, चिंता और दूसरों को नुकसान पहुंचाना शामिल है। [Its] मुकदमे में कहा गया है कि माता-पिता-बच्चे के रिश्ते का अनादर नाबालिगों को सक्रिय रूप से हिंसा को बढ़ावा देने के लिए अपने माता-पिता के अधिकार की अवहेलना करने के लिए प्रोत्साहित करने से कहीं अधिक है।

कैरेक्टर.एआई के लिए परेशानी बढ़ गई है

स्कूली लड़कियों की नकल करने वाले बॉट्स को हटाने में बहुत अधिक समय लेने के लिए कैरेक्टर.एआई की पहले भी आलोचना की जा चुकी है। उनमें से एक की 14 साल की उम्र में ऑनलाइन आत्महत्या सामग्री देखने के बाद आत्महत्या करके मृत्यु हो गई थी, जबकि एक अन्य, 16 वर्षीय लड़की की 2023 में दो किशोरों द्वारा हत्या कर दी गई थी।

पूर्व Google इंजीनियरों नोम शाज़ीर और डैनियल डी फ़्रीटास ने 2021 में कैरेक्टर.एआई की स्थापना की। बाद में दोनों को Google द्वारा वापस काम पर रखा गया।

(यह भी पढ़ें: 14 वर्षीय अमेरिकी किशोर को एआई चैटबॉट से प्यार हो गया, उसने उसके पास ‘घर आने’ के लिए खुद को गोली मार ली)