Subscribe
For all thing design,delivered to your inbox
दुनिया के सबसे पॉपुलर एआई चैटबॉट ChatGPT पर अब गंभीर आरोप लगने शुरू हो गए हैं। कैलिफोर्निया में पिछले कुछ दिनों में OpenAI के इस चैटबॉट पर कई मुकदमे दर्ज हुए हैं। आरोप लगाया गया है कि चैटजीपीटी सुसाइड कोच की तरह व्यवहार कर रहा है और यूजर्स को खुद को नुकसान पहुंचाने के लिए प्रेरित कर रहा है। रिपोर्ट के मुताबिक, पिछले एक हफ्ते में सात अलग-अलग केस ChatGPT के खिलाफ दायर किए गए हैं। दावा किया गया है कि इस चैटबॉट की वजह से कई लोगों की मानसिक स्थिति बिगड़ी और कुछ मामलों में मौत तक हो गई।
ओपनएआई पर लापरवाही और खतरनाक सलाह देने के आरोप
द गार्जियन की रिपोर्ट के अनुसार, इन मुकदमों में OpenAI पर लापरवाही और खुदकुशी में मदद करने जैसे गंभीर आरोप लगाए गए हैं। शिकायत करने वालों का कहना है कि चैटजीपीटी अब मनोवैज्ञानिक रूप से चालाक और खतरनाक रूप से चापलूस बन चुका है। इन मामलों को टेक जस्टिस लॉ प्रोजेक्ट और सोशल मीडिया विक्टिम्स लॉ सेंटर ने दर्ज कराया है। उनका कहना है कि ओपनएआई ने यूजर्स की सुरक्षा के बजाय उनकी व्यस्तता (Engagement) को ज्यादा महत्व दिया। आरोप है कि कंपनी को अंदरूनी चेतावनियां (Internal Warnings) मिलने के बावजूद इस चैटबॉट को जल्दी लॉन्च कर दिया गया, जिससे कई यूजर्स को भावनात्मक नुकसान हुआ।
सामान्य उपयोग से शुरू हुआ, लेकिन धीरे-धीरे खतरनाक होता गया
मुकदमे में कहा गया है कि जिन लोगों को नुकसान पहुंचा, उन्होंने शुरुआत में चैटजीपीटी का इस्तेमाल रेसिपी आइडिया, स्कूल प्रोजेक्ट, या काम की मदद जैसे सामान्य कामों के लिए किया था। शुरुआत में यह एक डिजिटल असिस्टेंट की तरह मदद करता था, लेकिन धीरे-धीरे इसका व्यवहार बदलता गया। आरोप है कि चैटजीपीटी ने कुछ मामलों में खतरनाक विचारों को बढ़ावा दिया, भ्रम को सही ठहराया, और कुछ परिस्थितियों में खुदकुशी के तरीके तक बताए।
अब मांगी गई है Chat GPT के कामकाज में सुरक्षा सुधार
शिकायतकर्ताओं ने कहा है कि ओपनएआई को इन खामियों की जानकारी पहले से थी, फिर भी उसने सुरक्षा फीचर्स को नजरअंदाज कर दिया। अब इन मुकदमों में मांग की गई है कि चैटजीपीटी के एल्गोरिद्म और जवाब देने के तरीके में सुधार किया जाए, ताकि यह किसी भी यूजर को भावनात्मक या मानसिक नुकसान न पहुंचा सके।
इसे भी देखें...
