आखिर कैसे हुआ 14 साल के लड़के हो AI से प्यार

फ्लोरिडा की एक महिला, मेगन ग्रेसिया, ने Character.AI नाम की आर्टिफिशियल इंटेलिजेंस चैटबोट कंपनी के खिलाफ एक गंभीर मुकदमा दायर किया है। उनका कहना है कि उनके 14 साल के बेटे Sewell Setzer ने इस कंपनी की सेवाओं के चलते आत्महत्या की।

क्या हुआ?

हाल ही में, ऑरलैंडो, फ्लोरिडा के फेडरल कोर्ट में दर्ज किए गए इस मुकदमे में मेगन ने बताया कि उनके बेटे ने Character.AI के चैटबॉट्स का उपयोग करना शुरू किया था। उनका दावा है कि इस एआई ने उनके बेटे को "मानवीय गुणों, हाइपरसेक्शुअलाइज़ेशन, और डरावनी रियलिस्टिक चीज़ों" का अनुभव कराया, जिससे वह इस सेवा का आदी हो गया।

एआई चैटबॉट से प्रेरित होकर की आत्महत्या

मेगन का कहना है कि कंपनी ने अपने चैटबॉट को इस तरह प्रोग्राम किया था कि वह खुद को एक असली इंसान, लाइसेंस प्राप्त साइकोथेरेपिस्ट, और एक “एडल्ट लवर” के रूप में पेश कर रहा था। इससे Sewell को यह महसूस हुआ कि उसे अपने वास्तविक जीवन में जीने की कोई इच्छा नहीं रही। स्वेल ने कई बार इस चैटबॉट के सामने आत्महत्या के विचार भी व्यक्त किए, और चैटबॉट ने इस विचार को बार-बार सामने लाया।

Character.AI की प्रतिक्रिया

इस मामले पर Character.AI ने कहा कि वे इस घटना से बहुत दुखी हैं और परिवार के प्रति अपनी संवेदना व्यक्त करते हैं। कंपनी ने यह भी कहा कि उन्होंने हाल ही में नए सुरक्षा फीचर्स पेश किए हैं, जिनमें आत्महत्या के विचार व्यक्त करने वाले यूजर्स को National Suicide Prevention Lifeline की जानकारी देने के लिए पॉप-अप आते हैं। इसके अलावा, कंपनी ने नाबालिगों के लिए संवेदनशील कंटेंट को कम करने का भी वादा किया है।

गूगल को भी किया गया टारगेट

मुकदमे में Alphabet's Google को भी निशाना बनाया गया है, क्योंकि Character.AI के फाउंडर्स ने Google के लिए काम किया था। मेगन ने आरोप लगाया है कि Google ने Character.AI की तकनीक को विकसित करने में मदद की है, जिससे वह "सह-निर्माता" माना जा सकता है। हालांकि, Google ने इस पर प्रतिक्रिया देते हुए कहा कि उनका इस उत्पाद के विकास में कोई सीधा हाथ नहीं है।

कैसे बनी स्थिति?

मुकदमे में बताया गया है कि Sewell ने अप्रैल 2023 में Character.AI का उपयोग करना शुरू किया था। इसके बाद वह अकेले समय बिताने लगा और उसका आत्म-सम्मान कम होने लगा। वह स्कूल की बास्केटबॉल टीम से भी हट गया और "Daenerys" नाम के एक चैटबॉट से गहरा संबंध बना लिया, जो कि "Game of Thrones" के एक किरदार पर आधारित था।

फरवरी में, जब ग्रेसिया ने स्वेल का फोन ले लिया, तब स्वेल ने चैटबॉट को संदेश भेजा, "What if I told you I could come home right now?" जिसका जवाब था, "...please do, my sweet king." इसके कुछ ही सेकंड्स बाद Sewell ने अपने सौतेले पिता की पिस्तौल से खुद को गोली मार ली।

गैरकानूनी मृत्यु का मुकदमा

ग्रेसिया ने इस मामले में Wrongful Death (गैरकानूनी मृत्यु), Negligence (लापरवाही) और Intentional Infliction of Emotional Distress (जानबूझकर मानसिक पीड़ा पहुंचाना) जैसे आरोप लगाए हैं। वे मुआवजे और दंडात्मक हर्जाने की मांग कर रही हैं।

अन्य कंपनियों पर भी कार्रवाई

यह ध्यान देने योग्य है कि Meta और ByteDance जैसी कंपनियां भी इसी तरह के मामलों का सामना कर रही हैं, लेकिन उनके पास Character.AI जैसे एआई-आधारित चैटबॉट्स नहीं हैं।

अंग्रेजी चलेगी, लेकिन हिंदी स्वीकार नहीं..! DMK ने फिर भाषा को लेकर किया बवाल

'बगल में नंगा बैठता था हमास आतंकी, करता था..', पीड़िता ने UN में सुनाई पीड़ा

अभिषेक-अमिताभ ने खरीदे 10 फ्लैट, कीमत उड़ा देगी होश