AI से खतरा? ChatGPT पर आंख बंद कर भरोसा मत करें – खुद CEO ने दी चौंकाने वाली चेतावनी…
नई दिल्ली। आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में हलचल मच गई है जब खुद OpenAI के CEO सैम ऑल्टमैन ने ChatGPT यूज़र्स को एक अहम सलाह दी है – “इस पर आंख बंद करके भरोसा न करें”।
ChatGPT जैसे AI टूल्स का आज हर क्षेत्र में इस्तेमाल हो रहा है – लेखन, रिसर्च, कोडिंग, हेल्थ, एजुकेशन, और यहां तक कि कानूनी मामलों में भी। ऐसे में जब इसके निर्माता ही सावधानी बरतने की सलाह दें, तो यह एक बड़ी चेतावनी है।
सैम ऑल्टमैन का बयान:
OpenAI के आधिकारिक पॉडकास्ट के पहले एपिसोड में सैम ऑल्टमैन ने कहा:
“लोग ChatGPT पर काफी भरोसा करते हैं, जो दिलचस्प है क्योंकि यह एक ऐसी तकनीक है जो भ्रम (hallucination) पैदा करती है। यह इंसानों की तरह सोचता नहीं है, इसलिए इस पर पूरा भरोसा करना गलत हो सकता है।”
इस बयान के बाद दुनिया भर में AI की विश्वसनीयता को लेकर बहस तेज हो गई है।
AI कैसे करता है “Hallucination”?
ChatGPT जैसे AI टूल्स को भारी मात्रा में इंटरनेट डेटा पर ट्रेन किया गया है। ये पैटर्न पहचान कर जवाब देते हैं – न कि इंसानों की तरह सोच-समझ कर।
इस वजह से यह कभी-कभी ऐसी जानकारी भी दे सकता है जो सुनने में सही लगती है, लेकिन हकीकत में गलत या पूरी तरह मनगढ़ंत होती है। इसी को AI की भाषा में Hallucination कहा जाता है।
भरोसा करें, लेकिन पहले वेरिफाई करें
AI के गॉडफादर जेफ्री हिंटन और सैम ऑल्टमैन दोनों मानते हैं कि AI बेशक भविष्य है, लेकिन इसके जवाबों को आंख मूंद कर सही मानना खतरनाक हो सकता है।
इसलिए, ऑल्टमैन ने साफ संदेश दिया है:
“Trust, but verify.”
यानी – AI से मिली जानकारी को हमेशा स्वतंत्र रूप से जांचें और परखें।
आपके लिए क्या सबक है?
ChatGPT का इस्तेमाल करें, लेकिन उसे गुरु न मानें
जो जवाब मिले, उसे दूसरे स्रोतों से क्रॉस-चेक करें
खासकर कानूनी, मेडिकल और वित्तीय सलाह लेते समय बेहद सतर्क रहें
AI टूल्स को सहायक समझें, निर्णायक नहीं
