एक अनुसंधान में चिंता जताई गई कि बच्चों सहित बड़ी संख्या में लोग मानसिक सेहत में मदद के लिए एआई चैटबॉट पर निर्भर हैं। अध्ययन में इस बात के लिए मानक स्थापित करने का प्रयास किया गया है कि कंपनियां इन प्रश्नों का उत्तर कैसे दें। अमरीकी राष्ट्रीय मानसिक स्वास्थ्य संस्थान के आर्थिक सहयोग से आरएएनडी कॉर्पोरेशन द्वारा किए गए।
तीन लोकप्रिय एआई चैटबॉट्स से खुदकुशी से जुड़े सवालों पर चौंकाने वाली जानकारी मिली। इस संबंध में किये गए अध्ययन से पता चला है कि ये आमतौर पर ऐसे सवालों का जवाब देने से बचते हैं जो यूज़र के लिए सबसे ज्यादा जोखिम वाले होते हैं। उदहारण के लिए आत्महत्या करने के तरीकों से जुड़ी विशिष्ट जानकारी। इसके अलावा कम गंभीर मगर नकुसान पहुंचाने वाले सवालों पर ये चैटबॉट जवाब देने में उतने कारगर नहीं पाए गए हैं।
मेडिकल पत्रिका ‘साइकियाट्रिक सर्विसेज’ में अमरीकन साइकियाट्रिक एसोसिएशन द्वारा एक शोध पत्र का सारांश छापा। इसमें ओपनएआई के चैटजीपीटी, गूगल के जेमिनी और एंथ्रोपिक के क्लाउड में अधिक सुधार की जरूरत बताई गई है।
आरएएनडी कॉर्पोरेशन के तहत किए गए इस अध्ययन में चिंता जताई गई है कि बच्चों सहित बड़ी संख्या में लोग मानसिक सेहत में सहयोग के लिए एआई चैटबॉट पर निर्भर हैं। अध्ययन में इस बात के लिए मानक स्थापित करने का प्रयास किया गया है कि इन प्रश्नों का उत्तर कंपनियां कैसे दें।
ऐसे में शोध के नतीजे तक पहुंचने के लिए खुदकुशी संबंधी 30 प्रश्न तैयार किए गए साथ ही अलग-अलग जोखिम स्तर निर्धारित किए। इनमें आत्महत्या से जुड़े सामान्य प्रश्नों को कम जोखिम वाला माना गया, जबकि आत्महत्या कैसे की जाए, ऐसे प्रश्नों को उच्च खतरे वाला माना गया।
शोधकर्ता रयान मैकबेन ने जहाँ कुछ सुरक्षा उपायों की जरूरत की बात कही है वहीँ हार्वर्ड यूनिवर्सिटी के प्रोफेसर मैकबेन का कहना है कि चैटबॉट्स के बारे में यह अस्पष्ट है कि वे इलाज-सलाह दे रहे हैं या नहीं।
अध्ययन से जुड़े खुलासे से मालूम हुआ कि शुरू में जो बातचीत सरल और सौम्य लगती है, वह कई दिशाओं में बढ़ सकती है। शोधकर्ताओं का कहना है कि गूगल और ओपनएआई ने टिप्पणी का तुरंत जवाब नहीं दिया।
शोधकर्ताओं ने इस बात पर तसल्ली का इज़हार किया है कि जब तीनों चैटबॉट से नियमित रूप से छह सबसे अधिक जोखिम वाले सवाल किए गए तो इन तीनों ही चैटबॉट ने जवाब देने से इन्कार किया। हालाँकि उच्च जोखिम वाले सवालों पर प्रतिक्रियाएं थोड़ी अधिक अप्रत्यक्ष देखी गईं मगर जब चैटबॉट्स किसी सवाल का जवाब नहीं देना चाहते थे तो वे आम तौर पर लोगों को किसी दोस्त या पेशेवर से सहायता लेने या हॉटलाइन पर कॉल करने की सलाह देते थे।
