ChatGPT-निर्माता OpenAI के डेटा से पता चलता है कि इसके जेनरेटर AI चैटबॉट का उपयोग करने वाले दस लाख से अधिक लोगों ने आत्महत्या में रुचि व्यक्त की है। सोमवार को प्रकाशित एक ब्लॉग पोस्ट में, एआई कंपनी ने अनुमान लगाया कि लगभग 0.
15 प्रतिशत उपयोगकर्ताओं की “बातचीत में संभावित आत्मघाती योजना या इरादे के स्पष्ट संकेतक शामिल होते हैं।” ओपनएआई रिपोर्ट के अनुसार, हर हफ्ते 800 मिलियन से अधिक लोग चैटजीपीटी का उपयोग करते हैं। ई.
लगभग 1.2 मिलियन लोग।
कंपनी का यह भी अनुमान है कि लगभग 0.07 प्रतिशत सक्रिय साप्ताहिक उपयोगकर्ता मनोविकृति या उन्माद से संबंधित मानसिक स्वास्थ्य आपातकाल के संभावित लक्षण दिखाते हैं, जिसका अर्थ है 600,000 से थोड़ा कम लोग।
यह मुद्दा तब सामने आया जब कैलिफोर्निया के किशोर एडम राइन्स ने इस साल की शुरुआत में आत्महत्या कर ली। उसके माता-पिता ने यह दावा करते हुए मुकदमा दायर किया कि चैटजीपीटी ने उसे खुद को मारने के बारे में विशेष सलाह दी थी। ओपनएआई ने तब से चैटजीपीटी के लिए अभिभावकीय नियंत्रण बढ़ा दिया है और अन्य रेलिंग पेश की है, जिसमें संकटकालीन हॉटलाइन तक विस्तारित पहुंच, सुरक्षित मॉडलों के लिए संवेदनशील वार्तालापों की स्वचालित री-रूटिंग और विस्तारित सत्रों के दौरान उपयोगकर्ताओं को ब्रेक लेने के लिए कोमल अनुस्मारक शामिल हैं।
ओपनएआई ने कहा कि उसने मानसिक स्वास्थ्य आपात स्थितियों का अनुभव करने वाले उपयोगकर्ताओं को बेहतर ढंग से पहचानने और प्रतिक्रिया देने के लिए अपने चैटजीपीएटी चैटबॉट को भी अपडेट किया है, और समस्याग्रस्त प्रतिक्रियाओं को कम करने के लिए 170 से अधिक मानसिक स्वास्थ्य पेशेवरों के साथ काम कर रहा है। (जो लोग संकट में हैं या जिनके मन में आत्महत्या के विचार आ रहे हैं उन्हें यहां हेल्पलाइन नंबरों पर कॉल करके मदद और परामर्श लेने के लिए प्रोत्साहित किया जाता है)।