AI के बढ़ते उपयोग और इसके संभावित खतरों के बारे में दुनिया भर में चर्चाएँ हो रही हैं। हाल ही में, एक दुखद घटना ने इस चर्चा को और भी गंभीर बना दिया है। एक 14 वर्षीय लड़के के साथ हुए एक हादसे ने यह सवाल खड़ा कर दिया है कि क्या AI टेक्नोलॉजी के उपयोग के कुछ गंभीर परिणाम हो सकते हैं।
दरअसल, एक 14 वर्षीय लड़के खुदखुशी कर ली और वजह AI था जिसके चलते मृतक की माँ ने कंपनी पर केस दर्ज किया है. मरने वाले लड़के की मां, मेगन ग्रैसिया, ने AI कंपनी पर आरोप लगाया है तथा कोर्ट में कहा कि इस कंपनी के खिलाफ कानूनी कार्रवाई की जाए। ग्रैसिया ने अपने बेटे की मौत का आरोप लगाते हुए Character.AI पर लापरवाही बरतने तथा उसके बेटे जैसे कमजोर उपयोगकर्ताओं की सुरक्षा सुनिश्चित करने में असफल रहने का आरोप लगाया। Character.AI एक AI संचालित चैटबॉट प्लेटफॉर्म है, जो उपयोगकर्ताओं को कस्टम AI के साथ बातचीत करने की अनुमति देता है। यह प्लेटफॉर्म उन्नत प्राकृतिक भाषा प्रसंस्करण का इस्तेमाल करता है, जिससे इन चैटबॉट्स को मानव-जैसी बातचीत का फीचर मिलता है। मां के अनुसार, उसका बेटा AI के साथ लंबे वक़्त से बात कर रहा था, और उसे यह बातचीत पसंद आने लगी थी।
14 वर्षीय लड़के को AI के साथ रहना अधिक पसंद आया तथा उसने बताया कि वह इसके साथ खुश है। रिपोर्ट के अनुसार, लड़के का AI के साथ जुड़ाव इतना बढ़ गया कि वह उसके साथ रहना चाहता था। अंततः, उसने खुदखुशी करने का निर्णय लिया। मेगन ग्रैसिया ने AI कंपनी पर अपने बेटे की मौत का आरोप लगाते हुए उनकी तकनीक को खतरनाक बताया। Character.AI को बनाने वाली कंपनी ने इस घटना पर दुख व्यक्त किया है। उन्होंने कहा कि यह एक बुरी खबर है तथा वे सुरक्षा को गंभीरता से लेते हैं, साथ ही जल्द ही फ़िल्टर्स जोड़ने की योजना बना रहे हैं।
महिला की हत्या कर जिम-ट्रेनर ने DM-आवास परिसर में दफनाया, 4 महीने बाद हुआ खुलासा
5 करोड़ का लोन दिलाने के बहाने 15 लाख ठगे, 6 पर केस दर्ज
6 वर्षीय मासूम को उठा ले गया तांत्रिक, झोपड़ी में ले जाकर किया बलात्कार और...