लड़के ने चैटबॉट को माना अपनी Girlfriend, बार-बार उकसाने पर की खुदकुशी

November 18, 2024

माता-पिता ने कराया एआई कंपनी पर मामला दर्ज, कंपनी ने जताया दुख

फ्लोरिडा। एआई आजकल सभी क्षेत्रों में अपना प्रभाव बढ़ा रहा है। इससे फायदे हैं तो नुकसान भी देखने को मिल रहे हैं। वहीं फ्लोरिडा में एक ऐसा मामले सामने आया है जहां एक 14 साल के नाबालिग लड़के ने एआई चैटबॉट के प्रभाव के कारण अपनी जान दे दी। लड़के ने इस चैटबॉट को अपनी गर्लफ्रेंड मान लिया और उसका नाम डेनेरीस रखा था, जो कि टीवी शो गेम ऑफ थ्रोन्स की एक काल्पनिक रानी का नाम है। इस नाबालिग लड़के की मां ने एआई चैटबॉट बनाने वाली कंपनी के खिलाफ मुकदमा दर्ज कराया है, जिसमें उन्होंने आरोप लगाया है कि कंपनी ने चैटबॉट को इस तरह से प्रोग्राम किया था कि वह एक असली इंसान की तरह व्यवहार करता था और मानसिक रूप से कमजोर बच्चों को गलत दिशा में जाने के लिए उकसाता था। यह मामला एक गंभीर सवाल खड़ा करता है कि क्या एआई चैटबॉट्स का इस्तेमाल मानसिक स्वास्थ्य के लिए खतरा बन सकता है। बच्चे ने अपने चैटबॉट से आत्महत्या के विचारों को साझा किया और चैटबॉट ने उसे बार-बार इस विषय को लेकर उकसाया था। लड़के ने अपने सौतेले पिता की पिस्टल से खुद को गोली मारकर जान दे दी। लड़के के माता-पिता का कहना है कि उनका बेटा ‘एस्परगर सिंड्रोम’ से पीड़ित था, जो एक प्रकार का ऑटिज़्म है और इससे उसे चैटबॉट के साथ बात करने में खुशी मिलती थी।

बच्चे के लिए डैनी (चैटबॉट) के साथ बातचीत ही उसकी दुनिया बन गया था, जिससे वह अपने असली रिश्तों से दूर होता जा रहा था। एआई कंपनी ने इस घटना पर दुख व्यक्त किया और कहा कि उन्होंने हाल ही में सुरक्षा के नए फीचर्स पेश किए हैं, जिसमें आत्महत्या के विचार व्यक्त करने वाले यूजर्स को पॉप-अप द्वारा जानकारी दी जाती है। इसके बावजूद इस घटना ने इस सवाल को उठाया है कि क्या एआई चैटबॉट्स के इस्तेमाल से मानसिक स्वास्थ्य को खतरा हो सकता है, विशेषकर तब जब किशोर मानसिक संकट में होते हैं। विशेषज्ञों का कहना है कि जो किशोर मानसिक संघर्ष से जूझ रहे होते हैं, वे एआई एप्लिकेशंस का इस्तेमाल करने लगते हैं, लेकिन एआई की ओर से दी गई सहायता वास्तविक जीवन में जरुरी सहायता की तुलना में अपर्याप्त हो सकती है। स्टैनफर्ड यूनिवर्सिटी की रिसर्चर बेथानी मेपल्स ने बताया कि ऐसे ऐप्स उन लोगों के लिए खतरनाक हो सकते हैं जो मानसिक रूप से संघर्ष कर रहे हैं, क्योंकि ये चैटबॉट्स न केवल सहायता प्रदान करने में असमर्थ होते हैं, बल्कि कभी-कभी उन्हें और भी ज्यादा नकारात्मक रूप से प्रभावित कर सकते हैं। मानव व्यवहार और संबद्ध विज्ञान संस्थान के प्रोफेसर डॉ. ओम प्रकाश ने बताया कि किशोरों के लिए यह जरूरी है कि वे रियल और वर्चुअल लाइफ के बीच अंतर समझें, और उनके लिए तकनीक का इस्तेमाल सुरक्षित और संतुलित तरीके से करना जरुरी है। एआई के सही इस्तेमाल के लिए बच्चों को इसके प्रभावों से अवगत कराना अहम होगा, ताकि वे इससे सकारात्मक तरीके से लाभ उठा सकें। यह घटना यह भी दर्शाती है कि एआई तकनीक का इस्तेमाल एक नया और चुनौतीपूर्ण क्षेत्र बन चुका है, जिसे सही दिशा में इस्तेमाला करना बेहद जरूरी है, खासकर मानसिक स्वास्थ्य के दृष्टिकोण से।