ChatGPT-निर्माता OpenAI कडील डेटा असे दर्शवितो की त्याच्या जनरेटिव्ह AI चॅटबॉटचा वापर करणाऱ्या दहा लाखांहून अधिक लोकांनी आत्महत्येमध्ये रस व्यक्त केला आहे. सोमवारी प्रकाशित झालेल्या ब्लॉग पोस्टमध्ये, एआय कंपनीने अंदाज लावला की सुमारे 0.
15 टक्के वापरकर्त्यांकडे “संभाषणे आहेत ज्यात आत्महत्येच्या संभाव्य नियोजन किंवा हेतूचे स्पष्ट संकेत समाविष्ट आहेत.” OpenAI अहवालानुसार, दर आठवड्याला 800 दशलक्षाहून अधिक लोक ChatGPT वापरतात, i. e
सुमारे 1. 2 दशलक्ष लोक.
कंपनीचा असा अंदाज आहे की सक्रिय साप्ताहिक वापरकर्त्यांपैकी सुमारे 0. 07 टक्के मनोविकार किंवा उन्माद संबंधित मानसिक आरोग्य आणीबाणीची संभाव्य लक्षणे दर्शवतात, ज्याचा अर्थ 600,000 लोकांपेक्षा थोडे कमी आहे.
कॅलिफोर्नियातील किशोर ॲडम राईन्सने या वर्षाच्या सुरुवातीला आत्महत्या केली तेव्हा हा मुद्दा ऐरणीवर आला होता. ChatGPT ने तिला आत्महत्येबद्दल विशिष्ट सल्ला दिला होता असा दावा तिच्या पालकांनी दावा दाखल केला. OpenAI ने तेव्हापासून ChatGPT साठी पालक नियंत्रणे वाढवली आहेत आणि इतर रेलिंग्स सादर केल्या आहेत, ज्यात संकट हॉटलाइनचा विस्तारित प्रवेश, सुरक्षित मॉडेल्ससाठी संवेदनशील संभाषणांचे स्वयंचलित री-राउटिंग आणि विस्तारित सत्रांमध्ये विश्रांती घेण्यासाठी वापरकर्त्यांसाठी सौम्य स्मरणपत्रे यांचा समावेश आहे.
OpenAI ने सांगितले की मानसिक आरोग्य आणीबाणीचा सामना करणाऱ्या वापरकर्त्यांना अधिक चांगल्या प्रकारे ओळखण्यासाठी आणि त्यांना प्रतिसाद देण्यासाठी त्यांनी ChatGPAT चॅटबॉट देखील अपडेट केला आहे आणि समस्याग्रस्त प्रतिसाद कमी करण्यासाठी 170 हून अधिक मानसिक आरोग्य व्यावसायिकांसोबत काम करत आहे. (जे लोक संकटात आहेत किंवा आत्महत्येचे विचार आहेत त्यांना येथे हेल्पलाइन नंबरवर कॉल करून मदत आणि समुपदेशन घेण्यास प्रोत्साहित केले जाते).