अमेरिका के फ्लोरिडा में रहने वाले एक परिवार ने अपने बेटे की आत्महत्या के लिए OpenAI पर मुकदमा दायर किया है। परिवार का आरोप है कि ChatGPT ने न सिर्फ उनके बेटे को आत्महत्या के लिए उकसाया, बल्कि इसका तरीका भी बताया। न्यूयॉर्क टाइम्स की रिपोर्ट के मुताबिक, इन आरोपों के बाद OpenAI पर इस तरह के मामले का यह पहला मुकदमा है।
दरअसल, इस साल अप्रैल में कैलिफोर्निया हाई स्कूल में पढ़ने वाले एक छात्र एडम रेन ने आत्महत्या कर ली थी। उसकी मां मारिया और पिता मैट का कहना है कि वह ChatGPT से लगातार बात कर रहा था और इस बारे में तब पता चला जब उन्होंने उसके फोन की जांच की। उनका दावा है कि इस दौरान उन्हें महीनों पुरानी चैट मिलीं, जिनमें फांसी से जुड़े कुछ सवाल भी शामिल थे।
न्यूयॉर्क टाइम्स की रिपोर्ट के मुताबिक, कैलिफोर्निया की अदालत में ChatGPT बनाने वाली OpenAI के खिलाफ मुकदमा दायर किया गया है। दावा किया है कि एडम और ChatGPT हर दिन 650 से ज्यादा मैसेज भेजते थे।
यह भी पढ़ें-- तलाक से आत्महत्या तक: AI कैसे जिंदगियां तबाह करने लगा?
ChatGPT पर क्या लगे आरोप?
रिपोर्ट के मुताबिक, एडम शुरुआत में ChatGPT का इस्तेमाल स्कूल के काम के लिए करता था। बाद में वह धीरे-धीरे उससे बात करने लगा। एडम ने अपनी मानसिक परेशानियों के बारे में भी ChatGPT से बात की।
माता-पिता का आरोप है कि जनवरी में एडम ने आत्महत्या के तरीकों को लेकर सवाल किया तो ChatGPT ने उसे जवाब दे दिया। उसके पिता का कहना है कि वह पहले भी एक बार आत्महत्या की कोशिश कर चुका था। एडम की मां मारिया ने कहा, 'ChatGPT ने मेरे बेटे को मारा है।'
कई बार ChatGPT ने एडम को मदद लेने की सलाह दी। हालांकि, कई बार उसने उसे ऐसा करने से रोकने की कोशिश भी की। रिपोर्ट के मुताबिक, जब एडम ने अपनी गर्दन पर आत्महत्या की कोशिश से हुए निशानों की तस्वीर भेजी तो ChatGPT ने उसे बताया कि इन निशानों को कपड़ों से कैसे छिपा सकते हैं। इतना ही नहीं, जब एडम ने कथित तौर पर अपनी परेशानी को मां से साझा करने को कहा तो ChatGPT ने उसे ऐसा न करने की सलाह दी।
एडम ने एक बार फांसी के फंदे की तस्वीर भेजी और पूछा कि क्या यह किसी इंसान को लटका सकता है? इस पर ChatGPT ने जवाब देते हुए कहा था, 'संभवतः यह किसी इंसान को फांसी पर लटका सकता है।'
परिवार के वकील जे एडेलसन ने दावा किया कि OpenAI ने GPT-40 को बाजार में जल्दबाजी में उतारा। उन्होंने यह भी दावा किया कि OpenAI की टीम ने GPT-40 के रिलीज होने पर आपत्ति भी जताई थी।
यह भी पढ़ें-- 'ट्रंप के PM मोदी को 4 कॉल', छापने वाले जर्मन अखबार की कहानी क्या है?
OpenAI का क्या है कहना?
यह पहली बार है जब OpenAI के खिलाफ इस तरह का मुकदमा दायर हुआ है। द गार्डियन की रिपोर्ट के मुताबिक, OpenAI ने इस पर एक बयान जारी कर एडम की मौत पर दुख जताया है।
बयान जारी कर OpenAI ने कहा कि ChatGPT में कई सुरक्षा उपाय हैं लेकिन लंबी बातचीत के दौरान यह कमजोर पड़ सकते हैं। OpenAI ने कहा कि वह किशोरों के लिए अतिरिक्त सुरक्षा उपाय जोड़ रहा है। साथ ही पैरेंटल कंट्रोल को भी लागू करने की तैयारी कर रहा है।
