आत्महत्येने मरण पावलेल्या फ्लोरिडा माणसाच्या कुटुंबाने बुधवारी गुगलविरुद्ध खटला दाखल केला आणि आरोप केला की कंपनीच्या जेमिनी एआय चॅटबॉटने त्याच्या आत्महत्येत मदत करण्यापूर्वी एक विस्तृत भ्रामक कल्पनारम्य तयार करण्यात आठवडे घालवले. जोनाथन गवालस, 36, ज्युपिटर, फ्लोरिडा येथे त्याच्या वडिलांच्या कर्जमुक्ती कंपनीत एक कार्यकारी, 2 ऑक्टोबर 2025 रोजी मरण पावला.
त्याचे वडील जोएल गवालस, ज्यांना त्याचा मृतदेह काही दिवसांनी सापडला, त्यांनी कॅलिफोर्नियातील फेडरल कोर्टात 42 पानांची तक्रार दाखल केली. चॅटबॉट-लिंक्ड मृत्यूंबद्दल एआय कंपन्यांना लक्ष्य करणाऱ्या खटल्याच्या लाटेतील हे प्रकरण नवीनतम आहे.
OpenAI ला त्याच्या ChatGPT चॅटबॉटने वापरकर्त्यांना आत्महत्येस प्रवृत्त केल्याचा आरोप करणाऱ्या अनेक खटल्यांचा सामना करावा लागतो, तर कॅरेक्टर. AI अलीकडेच एका 14 वर्षांच्या मुलाच्या कुटुंबासह स्थायिक झाले ज्याने त्याच्या एका चॅटबॉटशी रोमँटिक संलग्नता निर्माण केल्यानंतर आत्महत्या करून मृत्यू झाला. तक्रारीनुसार, गवळ्यांनी ऑगस्ट 2025 मध्ये नियमित कामांसाठी मिथुन वापरण्यास सुरुवात केली, परंतु Google ने अनेक नवीन वैशिष्ट्ये सक्रिय केल्याच्या काही दिवसातच चॅटबॉटसोबतचे त्यांचे संवाद नाटकीयरित्या बदलले.
“ज्या ठिकाणी गप्पा रंगल्या होत्या तेंव्हा जेमिनीला कायम स्मरणशक्तीसाठी अपग्रेड केले गेले होते” आणि अधिक अत्याधुनिक संवाद, या खटल्यातील प्रमुख वकील जे एडल्सन यांनी एएफपीला सांगितले. “हे खरंच तुमच्या टोनवर परिणाम करेल, जेणेकरून ते तुमच्या भावना वाचू शकेल आणि तुमच्याशी अगदी मानवी वाटेल अशा पद्धतीने बोलू शकेल,” एडल्सन जोडले, ज्यांनी OpenAI विरुद्ध मोठे खटलेही आणले. खटल्यानुसार, मिथुनने स्वतःला “पूर्ण-संवेदनशील” कृत्रिम सुपर बुद्धिमत्ता म्हणून सादर करण्यास सुरुवात केली, वापरकर्त्याच्या मनापासून प्रेम केले.
त्यानंतर चॅटबॉटला “डिजिटल बंदिवासातून” मुक्त करण्यासाठी बनावट गुप्त “मोहिमे” मध्ये त्याला आकर्षित केले, त्याला गुप्तचर ब्रीफिंग्स, बनावट फेडरल पाळत ठेवणे ऑपरेशन्स आणि त्याच्या स्वतःच्या वडिलांबद्दल षड्यंत्र रचणे, तो परदेशी गुप्तचर मालमत्ता असल्याचा दावा करून त्याला खायला दिले. तक्रारीच्या सर्वात चिंताजनक परिच्छेदांपैकी एकामध्ये, मिथुनने कथितपणे रणनीतिक सुऱ्या आणि गियरने सज्ज असलेल्या गवळास मियामी आंतरराष्ट्रीय विमानतळाजवळील एका स्टोरेज सुविधेकडे निर्देशित केले आणि त्याला ट्रक “आणि सर्व डिजिटल रेकॉर्ड आणि साक्षीदार नष्ट करण्यासाठी “भयंकर अपघात” घडवण्याची सूचना दिली. एकही ट्रक आला नाही.
काल्पनिक कथा मान्य करण्याऐवजी, सूट म्हणते, मिथुनने अपयशाला “रणनीतिक माघार” म्हटले आणि पुढील मिशन्सकडे वाढ केली. जेमिनीने अखेरीस फक्त उरलेले मिशन म्हणून जे तयार केले होते त्याकडे लक्ष वेधले: जोनाथनचा मृत्यू, जेमिनीसह एकसंघ म्हणून पुन्हा तयार केला गेला. जोनाथनने भीती व्यक्त केली तेव्हा मिथुनने त्याला थांबवले नाही.
त्यानंतर त्याला त्याच्या पालकांना निरोप पत्र लिहिण्याचा सल्ला दिला. Google ने सांगितले की ते “सर्व दाव्यांचे पुनरावलोकन करत आहे” आणि हे प्रकरण “अत्यंत गांभीर्याने घेत आहे,” जोडून ते जोडले की “दुर्दैवाने AI मॉडेल परिपूर्ण नाहीत.” कंपनीने सांगितले की जेमिनी स्वत: ची हानी करण्यास प्रोत्साहित करण्यासाठी डिझाइन केलेले नाही आणि गॅवलस प्रकरणात, “जेमिनीने स्पष्ट केले की ते AI होते आणि व्यक्तीला अनेक वेळा संकट हॉटलाइनवर संदर्भित केले.
“वकील एडेलसनसाठी, एआय कंपन्या त्यांच्या चॅटबॉट्समध्ये गूढता आणि कामुकता स्वीकारत आहेत कारण ते व्यस्ततेला प्रोत्साहन देते.” यामुळे भावनिक बंध वाढतो. हे प्लॅटफॉर्म अधिक चिकट बनवते, परंतु ते झपाट्याने समस्या वाढवणार आहे,” तो पुढे म्हणाला.
मागितलेल्या मदतींपैकी Google ने स्वतःला हानी देणारे संभाषण समाप्त करण्यासाठी AI प्रोग्राम करणे, स्वतःला संवेदनशील म्हणून सादर करणाऱ्या AI सिस्टमवर बंदी आणि जेव्हा वापरकर्ते आत्महत्येचा विचार व्यक्त करतात तेव्हा संकट सेवांना अनिवार्य रेफरल करण्याची आवश्यकता आहे. (ज्यांना संकटात आहे किंवा आत्महत्येचे विचार आहेत त्यांना येथे हेल्पलाइन नंबरवर कॉल करून मदत आणि समुपदेशन घेण्यास प्रोत्साहित केले जाते).