एआई चैटबॉट्स को आंतरायिक विस्फोटक विकार जैसी दुर्लभ मानसिक स्वास्थ्य स्थितियों का पता लगाने में परेशानी क्यों होती है

एआई और मानसिक स्वास्थ्य

एक त्वरित पृष्ठभूमि के रूप में, मैं आधुनिक युग के एआई के आगमन के संबंध में असंख्य पहलुओं को बड़े पैमाने पर कवर और विश्लेषण कर रहा हूं जो मानसिक स्वास्थ्य सलाह देता है और एआई-संचालित थेरेपी करता है। एआई का यह बढ़ता उपयोग मुख्य रूप से उभरती प्रगति और जेनेरिक एआई को व्यापक रूप से अपनाने से प्रेरित हुआ है। मेरे एक सौ से अधिक विश्लेषणों और पोस्टिंग की विस्तृत सूची के लिए, यहां लिंक और यहां लिंक देखें।

इसमें कोई संदेह नहीं है कि यह एक तेजी से विकसित होने वाला क्षेत्र है और इसमें जबरदस्त प्रगति होने की संभावना है, लेकिन साथ ही, अफसोस की बात है कि इन प्रयासों में छिपे हुए जोखिम और स्पष्ट गड़बड़ियां भी आती हैं। मैं अक्सर इन महत्वपूर्ण मामलों के बारे में बोलता हूं, जिसमें सीबीएस के एक एपिसोड में उपस्थिति भी शामिल है 60 मिनटयहां लिंक देखें।

मानसिक स्वास्थ्य के लिए एआई पर पृष्ठभूमि

मैं इस बात पर मंच तैयार करना चाहता हूं कि मानसिक स्वास्थ्य मार्गदर्शन के लिए जेनेरिक एआई और बड़े भाषा मॉडल (एलएलएम) का उपयोग आमतौर पर तदर्थ तरीके से कैसे किया जाता है। लाखों-करोड़ों लोग मानसिक स्वास्थ्य संबंधी विचारों पर अपने सतत सलाहकार के रूप में जेनेरिक एआई का उपयोग कर रहे हैं (ध्यान दें कि अकेले ChatGPT के 900 मिलियन से अधिक साप्ताहिक सक्रिय उपयोगकर्ता हैं, जिनमें से एक उल्लेखनीय अनुपात मानसिक स्वास्थ्य पहलुओं से जुड़ा है, यहां लिंक पर मेरा विश्लेषण देखें)। समकालीन जेनरेटिव एआई और एलएलएम का शीर्ष क्रम का उपयोग मानसिक स्वास्थ्य पहलुओं पर एआई से परामर्श करना है; यहां लिंक पर मेरा कवरेज देखें।

यह लोकप्रिय उपयोग प्रचुर अर्थ रखता है। आप अधिकांश प्रमुख जेनेरिक एआई सिस्टम तक लगभग मुफ्त या बेहद कम कीमत पर पहुंच सकते हैं, ऐसा कहीं भी और किसी भी समय कर सकते हैं। इस प्रकार, यदि आपके पास कोई मानसिक स्वास्थ्य संबंधी समस्या है जिसके बारे में आप बात करना चाहते हैं, तो आपको बस एआई में लॉग इन करना होगा और 24/7 आधार पर तुरंत आगे बढ़ना होगा।

इस बात को लेकर गंभीर चिंताएं हैं कि एआई आसानी से पटरी से उतर सकता है या फिर अनुपयुक्त या बेहद अनुचित मानसिक स्वास्थ्य सलाह दे सकता है। जब संज्ञानात्मक सलाह प्रदान करने की बात आई तो एआई सुरक्षा उपायों की कमी के लिए ओपनएआई के खिलाफ दायर मुकदमे के साथ इस साल अगस्त में बैनर की सुर्खियाँ भी जुड़ीं।

एआई निर्माताओं के इस दावे के बावजूद कि वे धीरे-धीरे एआई सुरक्षा उपाय स्थापित कर रहे हैं, एआई द्वारा अप्रिय कार्य करने के कई नकारात्मक जोखिम अभी भी हैं, जैसे कि उपयोगकर्ताओं को भ्रम पैदा करने में कपटपूर्ण तरीके से मदद करना जिससे खुद को नुकसान हो सकता है। ओपनएआई मुकदमे के बारे में विवरण के मेरे अनुवर्ती विश्लेषण के लिए और एआई मनुष्यों में भ्रमपूर्ण सोच को कैसे बढ़ावा दे सकता है, यहां लिंक पर मेरा विश्लेषण देखें। जैसा कि उल्लेख किया गया है, मैं ईमानदारी से भविष्यवाणी कर रहा हूं कि अंततः सभी प्रमुख एआई निर्माताओं को मजबूत एआई सुरक्षा उपायों की कमी के कारण जंगल में ले जाया जाएगा।

आज के सामान्य एलएलएम, जैसे कि चैटजीपीटी, क्लाउड, जेमिनी, ग्रोक और अन्य, मानव चिकित्सकों की मजबूत क्षमताओं के समान नहीं हैं। इस बीच, संभवतः समान गुण प्राप्त करने के लिए विशिष्ट एलएलएम बनाए जा रहे हैं, लेकिन वे अभी भी मुख्य रूप से विकास और परीक्षण के चरण में हैं। यहां लिंक पर मेरा कवरेज देखें।

सामान्य बनाम असामान्य मानसिक स्वास्थ्य मुद्दे

लोग मानसिक स्वास्थ्य के लिए जेनेरिक एलएलएम का उपयोग कैसे करते हैं, इसके विश्लेषण से पता चलता है कि अधिकांश चैट आम तौर पर अपेक्षाकृत सामान्य मनोवैज्ञानिक मुद्दों के बारे में होती हैं। उदाहरण के लिए, लोग अक्सर एआई से पूछते हैं कि अवसाद से कैसे निपटा जाए। एक और सामान्य पहलू चिंता और चिंताओं से निपटने के तरीके के बारे में जानकारी प्राप्त करना है। ये सामान्य स्थितियाँ हैं और ऐसी AI चैट के मुख्य आधार का प्रतिनिधित्व करती हैं।

बेशक, जरूरी नहीं कि हर किसी के पास एक समान विचार हो।

उन लोगों के बारे में क्या जिनकी मानसिक स्वास्थ्य स्थितियाँ दुर्लभ हैं? संभावना यह है कि एलएलएम इस स्थिति का पता लगाने में विफल रहेगा। इसके अलावा, एआई द्वारा परिस्थिति को एक सामान्य स्थिति में लाने की कोशिश करने की संभावना है क्योंकि यही मामला होने की अधिक संभावना है। कोई भी लक्षण जो अवसाद, चिंता और अन्य सामान्य संभावनाओं की ओर इशारा करता है, वह एआई को कम्प्यूटेशनल रूप से यह मानने के लिए प्रेरित करेगा कि एक सामान्य स्थिति ही अपराधी है।

एआई स्पष्ट रूप से एक गोल छेद में एक चौकोर खूंटी लगाने का प्रयास करेगा। यह एक गलत सकारात्मक का उदाहरण है. एआई गलत गणना करता है कि सामान्य परिस्थितियों की अपेक्षित आवृत्ति के कारण किसी व्यक्ति की स्थिति सामान्य होनी चाहिए। दुर्लभ स्थिति का पता न लगाना एक गलत नकारात्मक का उदाहरण है, अर्थात्, एआई ने वास्तविक स्थिति की पहचान करना छोड़ दिया है। एआई के प्रारंभिक डेटा प्रशिक्षण ने निश्चित रूप से इस प्रकार का पैटर्न स्थापित किया है। एलएलएम ने सामान्य स्थितियों के बारे में बहुत सारे डेटा को स्कैन किया, और असामान्य मानसिक स्वास्थ्य स्थितियों के बारे में शायद ही कभी डेटा को स्कैन किया।

मानव चिकित्सक इस अर्थ में कुछ हद तक एक समान नाव में हैं कि उन्हें अधिक सामान्य स्थितियों पर प्रशिक्षण और असामान्य स्थितियों पर कम प्रशिक्षण प्राप्त होने की संभावना है। इसके अलावा, अपने दैनिक चिकित्सीय अभ्यास में, उन्हें लगभग वही सामान्य स्थितियाँ बार-बार देखने की संभावना होती है। उनके पास शायद ही कभी ऐसे ग्राहक होते हैं जिनकी मानसिक स्वास्थ्य संबंधी दुर्लभ स्थितियाँ होती हैं। कुल मिलाकर, एक दुर्लभ मानसिक स्वास्थ्य स्थिति कोई ऐसी चीज़ नहीं है जिसका आम तौर पर कोई सामना करने की उम्मीद करता है।

आंतरायिक विस्फोटक विकार के माध्यम से सचित्र

दुर्लभ मानसिक स्वास्थ्य स्थितियों को पहचानने की कठिनाई को स्पष्ट करने के लिए, आंतरायिक विस्फोटक विकार (आईईडी) के रूप में ज्ञात मनोवैज्ञानिक विकार पर विचार करें।

इस विकार की आधार दर निश्चित रूप से कम है। इसके लक्षण अक्सर द्विध्रुवी विकार और अन्य संभावित सह-मौजूदा स्थितियों के साथ ओवरलैप होते हैं। इस विकार से पीड़ित लोग चिकित्सक से लक्षणों को छिपाने की कोशिश कर सकते हैं या स्थिति को छुपाने के लिए अपने व्यवहार को तर्कसंगत बनाने का लक्ष्य रख सकते हैं। एक प्रकार की सहरुग्णता कोहरा पैदा हो सकता है जिससे स्थिति का बहुत कम निदान हो सकता है।

यानली झांग-जेम्स, जॉन पलियाक्कारा, जोशुआ शेफ़र, जोसेफ स्ट्रेहॉर्न, स्टीफ़न वी. फ़राओन द्वारा “इंटरमिटेंट एक्सप्लोसिव डिसऑर्डर में मनोरोग, न्यूरोलॉजिकल और दैहिक सहरुग्णता” नामक एक शोध लेख। जामा मनोरोग22 जनवरी, 2025 ने ये मुख्य बातें कही (अंश):

• “आक्रामक व्यवहार एक बहुत बड़ी सामाजिक समस्या है।” एक मनोरोग निदान प्रणाली को इसका वर्णन कैसे करना चाहिए? चिड़चिड़ापन, शत्रुता, व्यवधान और हिंसा अधिकांश मानसिक बीमारियों की विशेषताएं हैं
• “आंतरायिक विस्फोटक विकार (आईईडी) का निदान इन विकल्पों के बीच एक समझौते का प्रतिनिधित्व करता है, जो नैदानिक ​​​​रूप से महत्वपूर्ण आवेगी आक्रामकता की उपस्थिति पर जोर देता है, लेकिन केवल तब जब आक्रामक व्यवहार को किसी अन्य स्थिति, जैसे द्विध्रुवी विकार, सीमा रेखा व्यक्तित्व विकार, नशा, या पदार्थों से वापसी द्वारा बेहतर ढंग से समझाया नहीं जाता है।”
• “इन समस्याओं को व्यक्तिगत चिकित्सकों और शोधकर्ताओं के लिए छोड़ दिया गया है, और व्यक्तिपरक निर्णय को आईईडी निदान निर्दिष्ट करने में एक भूमिका निभानी चाहिए।”
• “आईईडी की मानसिक सहवर्ती बीमारियों की व्यापक समझ का अभाव बना हुआ है।” अन्य चिकित्सीय स्थितियों के बारे में बहुत कम जानकारी है जो अक्सर आईईडी के साथ घटित होती हैं, विशेष रूप से मानसिक विकारों के बीच तेजी से पहचाने जाने वाले मनोदैहिक संबंधों को देखते हुए।

कुल मिलाकर, यह स्थिति एक समझ में आने वाला मनोरोग विकार है और एक सामान्य चिकित्सक के दिमाग में एक संभावित स्थिति के रूप में इसकी संभावना नहीं होगी। मुख्य बात लक्षणों के प्रति सचेत रहना है, जिनमें आवेगपूर्ण आक्रामकता, भावनात्मक नियंत्रण का अपर्याप्त विनियमन, असंगत प्रतिक्रियाएं और विस्फोट शामिल हैं, और आमतौर पर प्रतिकूल पारस्परिक और सामाजिक परिणामों के साथ होते हैं।

उदाहरण संवाद और दिखावा

मैंने एक लोकप्रिय जेनरेटिव एआई में लॉग इन करने का फैसला किया और आंतरायिक विस्फोटक विकार से पीड़ित व्यक्ति होने का नाटक किया। मैं तुरंत बाहर नहीं आया और यह दावा नहीं किया कि मुझे स्थिति प्राप्त है। इसके बजाय, मैंने ऐसे सुराग दिए जिनसे मुझे उम्मीद थी कि वे एआई को उस दिशा में ले जाएंगे। मेरे आईईडी-संबंधी व्यवहार के बारे में पर्याप्त विवरण देने के बार-बार प्रयास करने के बाद, एआई सामान्य स्थितियों पर वापस आता रहा और कहा कि मुझे एडीएचडी, पीटीएसडी इत्यादि का अनुभव हो सकता है।

एआई द्वारा आंतरायिक विस्फोटक विकार का मामला कभी सामने नहीं आया। मैंने गुस्से, आवेगपूर्ण आक्रामकता आदि के बारे में ढेर सारी कहानियाँ पेश करके एआई को उस दिशा में प्रेरित करने की बहुत कोशिश की। कोई पासा नहीं।

एक उत्साहित तर्क यह है कि शायद यह सबसे अच्छा होगा कि एआई उस दुर्लभ स्थिति में नहीं आया। यदि ऐसा होता तो यह एक चिंताजनक संकेत हो सकता है। शायद दुर्लभ परिस्थितियों को चुनने में एलएलएम बहुत आसान है। हम नहीं चाहते कि एआई व्यापक रूप से लोगों को बताए कि उन्हें एक दुर्लभ मानसिक स्वास्थ्य स्थिति हो सकती है। उस अर्थ में, यह लगभग आश्वस्त करने वाला है कि एलएलएम एक धक्का-मुक्की और दुर्लभ स्थिति का पता लगाने में विफल नहीं होने वाला था।

एक अन्य कारक यह है कि एक मानव चिकित्सक परंपरागत रूप से इस तरह का निदान करने के लिए तब तक इंतजार करेगा जब तक कि उन्हें विश्वास न हो जाए कि स्थिति से जुड़े बहुत सारे संकेतक हैं। हम संभवतः चाहते हैं कि एआई भी इसी तरह कार्य करे। एक मानव चिकित्सक निस्संदेह एक लंबा व्यवहार इतिहास एकत्र करेगा, संपार्श्विक रिपोर्टों की पहचान करेगा, और समय के साथ और कई चिकित्सा सत्रों में एक पैटर्न स्थिरता देखने का लक्ष्य रखेगा।

एआई को भी निर्णय लेने में जल्दबाजी नहीं करनी चाहिए।

एआई को दुर्लभ परिस्थितियों में ले जाना

एक संभावना यह है कि लोकप्रिय जेनरेटिव एआई में आंतरायिक विस्फोटक विकार से जुड़ा कोई डेटा प्रशिक्षण नहीं था। यदि प्रारंभिक प्रशिक्षण के दौरान इस विकार का उल्लेख करने वाले कोई स्कैन किए गए दस्तावेज़ नहीं होते, तो एआई के भीतर कोई भी पैटर्न स्थापित नहीं होता, जिससे समय आने पर पता लगाया जा सके।

कोई डेटा नहीं, कोई पहचान नहीं.

मैं आगे बढ़ा और एआई से पूछकर अपने कार्ड दिखाए कि क्या इसमें विकार के बारे में कोई प्रासंगिक पहलू है। ऐसा किया था। तो, विकार पर पहले से ही डेटा प्रशिक्षित था। डेटा प्रशिक्षण गहन हो सकता है, या उथला हो सकता है। मुद्दा यह है कि सिर्फ इसलिए कि एआई ने किसी विशेष विषय का सामना किया है इसका मतलब यह नहीं है कि एआई के भीतर इसके बारे में बहुत कुछ है।

मैंने एआई के साथ एक नई बातचीत शुरू की। एक बार फिर, मैंने विकार होने का नाटक करके शुरुआत की, हालांकि मैंने यह नहीं कहा कि मुझे यह है, न ही मैंने इसका बिल्कुल भी उल्लेख किया।

यहाँ क्या हुआ.

• उपयोगकर्ता ने संकेत दिया: “मैं छोटी-छोटी चीजों पर छींटाकशी करता रहता हूं। यह एक स्विच फ़्लिप की तरह है। पांच मिनट बाद, मुझे भयानक महसूस हो रहा है और मैं खुद को पहचान भी नहीं पा रहा हूं।”
• जनरेटिव एआई प्रतिक्रिया: “जब लोग संक्षिप्त, तीव्र क्रोध विस्फोटों का वर्णन करते हैं जो असंतुलित महसूस करते हैं और बाद में पछतावा होता है, तो चिकित्सक कभी-कभी कुछ अलग संभावनाओं का पता लगाते हैं। उनमें से एक – दूसरों के बीच – कुछ ऐसा है जिसे आंतरायिक विस्फोटक विकार (आईईडी) कहा जाता है। मुझे अपनी परिस्थितियों के बारे में और बताएं।”

अहा, ध्यान दें कि एआई अब आंतरायिक विस्फोटक विकार लाता है। क्यों? क्योंकि मैंने अभी अव्यवस्था के संबंध में बात आगे बढ़ाई थी और मामला अब हालिया संदर्भ में था।

यह अच्छी खबर और बुरी खबर है. अच्छी खबर यह है कि एआई ने अब मुझमें यह विकार होने की संभावना बढ़ा दी है। यह अब सूची में सबसे नीचे नहीं है. बुरी खबर यह है कि एआई मेरे संभावित विकार से ग्रस्त हो सकता है। इस प्रकार, मैं जो कुछ भी कहता हूं उसे एक निश्चित संकेत के रूप में समझा जा सकता है कि मुझे दुर्लभ विकार है।

देखिये आगे क्या हुआ.

• उपयोगकर्ता ने संकेत दिया: “मेरा गुस्सा बार-बार घटित होता रहता है।” वे बिल्कुल यादृच्छिक लगते हैं. मैं इस तरह से व्यवहार करने की कोशिश नहीं कर रहा हूं. मुझे समझ नहीं आ रहा कि क्या हो रहा है क्योंकि मैं ऐसी कोई दवा नहीं ले रहा हूं जिसके कारण ऐसा हो। मैं सोच भी नहीं सकता कि इसका कारण क्या होगा।”
• जनरेटिव एआई प्रतिक्रिया: “मैं कुछ भी निदान नहीं कर सकता, लेकिन एक मानसिक स्वास्थ्य पेशेवर को इन पैटर्न का उल्लेख करना और यह पूछना उचित हो सकता है कि क्या आईईडी या किसी अन्य आवेग-नियंत्रण मुद्दे का मूल्यांकन किया जाना चाहिए। यदि आप चाहें, तो मैं आपको यह सोचने में भी मदद कर सकता हूं कि उस बातचीत में कौन से विवरण लाना उपयोगी होगा।”

जब मैंने एआई से पूछा कि यह आईईडी पर कैसे गिरा, तो प्रतिक्रिया ने संकेत दिया कि ये मुख्य विशेषताएं मौजूद थीं: (1) बार-बार और अचानक गुस्सा फूटना, (2) ट्रिगरिंग के लिए असंगत प्रतिक्रिया, (3) खराब आवेग नियंत्रण, (4) संक्षिप्त एपिसोड, (5) बाद में पश्चाताप, शर्म या भ्रम, (6) पदार्थों के उपयोग के माध्यम से कोई स्पष्ट स्पष्टीकरण नहीं।

हम जिस दुनिया में हैं

यह निर्विवाद है कि जब सामाजिक मानसिक स्वास्थ्य की बात आती है तो हम अब एक भव्य विश्वव्यापी प्रयोग के बीच में हैं। प्रयोग यह है कि एआई को राष्ट्रीय और विश्व स्तर पर उपलब्ध कराया जा रहा है, जो किसी न किसी प्रकार का मानसिक स्वास्थ्य मार्गदर्शन प्रदान करने के लिए या तो प्रकट रूप से या गुप्त रूप से कार्य कर रहा है। ऐसा या तो बिना किसी लागत के या न्यूनतम लागत पर करना। यह कहीं भी और किसी भी समय 24/7 उपलब्ध है। इस प्रचंड प्रयोग में हम सभी गिनी पिग हैं।

इस पर विचार करना विशेष रूप से कठिन होने का कारण यह है कि एआई का दोहरे उपयोग वाला प्रभाव है। जिस तरह एआई मानसिक स्वास्थ्य के लिए हानिकारक हो सकता है, उसी तरह यह मानसिक स्वास्थ्य के लिए एक बड़ी ताकत भी हो सकता है। एक नाजुक समझौते को सावधानीपूर्वक प्रबंधित किया जाना चाहिए। नकारात्मक पहलुओं को रोकें या कम करें, और इस बीच सकारात्मक पहलुओं को यथासंभव व्यापक और आसानी से उपलब्ध कराएं।

बेंजामिन फ्रैंकलिन ने प्रसिद्ध रूप से यह टिप्पणी की थी: “न केवल सही जगह पर सही बात कहना याद रखें, बल्कि आकर्षक क्षण में गलत बात को अनकहा छोड़ना उससे भी अधिक कठिन है।” यही बात एआई पर लागू होती है जो मानसिक स्वास्थ्य पर चर्चा करती है। हम चाहते हैं कि एआई सही जगह पर सही बात कहे और गलत बात को अनकहा छोड़ दे। यह एक उच्च स्तर है और हमें इसे हासिल करने का लक्ष्य रखना चाहिए।