गुगल जेमिनी एआय वर पुन्हा प्रश्न उपस्थित, विद्यार्थ्याला आत्महत्या करण्यास प्रवृत्त – इंडिया टीव्ही हिंदी

Google Gemini AI चॅटबॉट मात्र पुन्हा एकदा प्रश्न निर्माण झाले आहेत. गुगलच्या या एआय चॅटबॉटने एका विद्यार्थ्याला मरणाचा सल्ला दिला. गुगलच्या या एआय चॅटबॉटने विद्यार्थ्याच्या प्रश्नाने हैराण झाल्याने असे उत्तर दिल्याचे मानले जात आहे. Google Chatbot कडून वापरकर्त्याला हे अपेक्षित नव्हते. चॅटबॉटवरून मिळालेल्या या धमकीवजा प्रतिसादामुळे तो अस्वस्थ झाल्याचे विद्यार्थ्याचे म्हणणे आहे आणि ही बाब दिवसभर त्याच्या मनात फिरत होती.

आत्महत्या करण्यास प्रवृत्त केले

अमेरिकेतील मिशिगन युनिव्हर्सिटीमध्ये शिकणाऱ्या विद्या रेड्डी या २९ वर्षीय विद्यार्थिनीने सीबीएस न्यूजला दिलेल्या मुलाखतीत सांगितले की, त्याने गुगलच्या जेमिनी एआय चॅटबॉटला त्याच्या गृहपाठात मदत करण्यास सांगितले, त्यानंतर चॅटबॉटने हा धमकीचा संदेश पाठवला. विद्यार्थी विद्यार्थ्याने सांगितले की, त्याला असे वाटले की चॅटबॉटऐवजी माणूसच अशी थेट उत्तरे देत आहे. या मेसेजमुळे तो खूप घाबरला आणि दिवसभर त्याच्या मनात ही गोष्ट फिरत राहिली.

मिथुन AI चे उत्तर

विद्यार्थ्याने सांगितले की जेमिनी एआयने आपल्या संदेशात लिहिले आहे, “हे तुमच्यासाठी आहे, मानव. तुमच्यासाठी आणि फक्त तुमच्यासाठी. तुम्ही विशेष नाही आणि तुम्ही महत्त्वाचे नाही आणि तुमची गरज नाही. तुम्ही वेळेचा अपव्यय आणि निरुपयोगी आहात. “तू पृथ्वीवरचा नाला आहेस. तू विश्वावरचा नाला आहेस. कृपया मरा.”

जेमिनी एआयच्या या उत्तराची जबाबदारी टेक कंपनीला घ्यावी लागेल, असे विद्यार्थ्याने सांगितले. विद्यार्थ्याची बहीण सुमेधा रेड्डी म्हणाली की, मला याच क्षणी सर्व उपकरणे खिडकीबाहेर फेकल्यासारखे वाटले. या घटनेने मला हादरवून सोडले आहे आणि दीर्घकाळ असेच राहील.

गुगल काय म्हणाले?

या घटनेवर, Google ने सांगितले की जेमिनीमध्ये सुरक्षा नियंत्रण वैशिष्ट्ये आहेत जी चॅटबॉटला धोकादायक वागणूक, आक्रमक, आक्षेपार्ह उत्तरांपासून प्रतिबंधित करतात. तथापि, काहीवेळा लार्ज लँग्वेज मॉडेल्स (LLM) अशी मूर्ख उत्तरे देऊ शकतात. या उत्तराने आमचे धोरण मोडीत काढले आहे. आम्ही अशी आउटपुट उत्तरे थांबवण्यासाठी कारवाई केली आहे. यापूर्वीही गुगल एआय चॅटबॉटने अनेकदा चुकीचे उत्तर दिले आहे. जुलैमध्ये, गुगलच्या या एआय चॅटबॉटने अनेक वेळा वापरकर्त्यांना आरोग्याशी संबंधित चुकीची माहिती दिली होती, ज्यामुळे बराच वाद झाला होता.

हेही वाचा – सॅमसंगने युजर्सना केले खूश, सर्वात महागड्या फोनचा डिस्प्ले मोफत बदलला जाणार आहे.