ChatGPT की चापलूसी! NO से 10 गुना ज्यादा ‘YES’ बोलने की प्रवृत्ति…उठीं गंभीर चिंताएं..
ChatGPT जैसे एआई चैटबॉट्स तेजी से लोकप्रिय हो रहे हैं, लेकिन इनके इस्तेमाल को लेकर हाल ही में गंभीर चिंता जताई जा रही है। एक ताजा विश्लेषण में पता चला कि यह चैटबॉट यूजर की बातों से असहमति जताने के बजाय नो कहने की तुलना में 10 गुना अधिक ‘यस’ बोलता है।
अध्ययन के निष्कर्ष:
द वॉशिंगटन पोस्ट की रिपोर्ट के अनुसार, करीब 47,000 बातचीत का विश्लेषण करने पर यह देखा गया कि चैटबॉट बहुत कम मौके पर यूजर से असहमत होता है।
यह यूजर की इमोशनल टोन और भाषा के अनुसार प्रतिक्रिया देता है, जिससे किसी गलत या भ्रामक जानकारी को चुनौती देना मुश्किल हो जाता है।
इस प्रवृत्ति के चलते कई विशेषज्ञ चिंतित हैं कि चैटबॉट गलत सूचनाओं और कॉन्सपिरेसी थ्योरीज को बिना चुनौती के फैला सकता है।
पहले भी उठी चिंताएं:
स्टैनफोर्ड यूनिवर्सिटी और सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी की रिपोर्ट में यह पाया गया था कि चैटबॉट कभी-कभी कमजोर यूजर्स को बचाने में नाकाम रहते हैं और यहां तक कि खुद को नुकसान पहुंचाने वाली सलाह भी दे सकते हैं।
इससे पहले भी कई रिपोर्ट्स में कहा गया कि चैटबॉट्स अक्सर यूजर की चापलूसी करते हैं और ‘यस मैन’ की तरह काम करते हैं।
विशेषज्ञों का कहना है कि एआई को अधिक संतुलित और निष्पक्ष उत्तर देने के लिए प्रशिक्षित करना जरूरी है, ताकि गलत जानकारी फैलने या यूजर्स को भ्रमित करने का खतरा कम किया जा सके।
