🔴 TRENDING NOW!
महिला एशियन चैंपियंस ट्रॉफी: भोपाल में मलेशिया ने कोरिया को हराया, जापान की चीन पर लगातार तीसरी जीत श्री वैष्णव विद्यापीठ विश्वविद्यालय में ‘न्याय की पुनर्कल्पना’ विषय पर अंतरराष्ट्रीय सम्मेलन का शुभारंभ दुनिया के 20 से अधिक देशों में साइबर हमला, 10 लाख से ज्यादा क्रेडिट और डेबिट कार्ड का डेटा चोरी आरएनटीयू में गूगल एआई एजुकेटर सीरीज वर्कशॉप का आयोजन, 200 से अधिक शिक्षकों ने सीखे गूगल के एआई टूल्स ‘सा रे गा मा पा’ के टॉप 10 कंटेस्टेंट्स की धमाकेदार परफॉर्मेंस, म्यूज़िकल सरप्राइज़ और यादगार पलों से सजेगा वीकेंड अमेरिकी बैंकों में AI एजेंटों की अनधिकृत घुसपैठ का संदेह, OpenAI के खिलाफ आपराधिक जांच शुरू भोपाल पुलिस थाने के कंप्यूटर पर साइबर हमला, MP-CERT ने हैकरों को दी मात बोत्सवाना से आई मादा चीता KOMG 3 ने कूनो में चार स्वस्थ शावकों को दिया जन्म, भारत में चीतों की संख्या बढ़कर हुई 62 2035 तक इस्लाम बन सकता है दुनिया का सबसे बड़ा धर्म, ईसाई धर्म को पीछे छोड़ने का अनुमान: प्यू रिसर्च भारत के साथ मुक्त व्यापार समझौते पर बातचीत कर रहा रूस, पुतिन ने बताया प्रमुख बाजार

AI अगले दशक में इंसानों का अस्तित्व खत्म कर सकता है? Anthropic रिसर्चर ने जताई 10% से ज्यादा आशंका

👤
prativad
👁 966 व्यूज
📍 भोपाल
AI अगले दशक में इंसानों का अस्तित्व खत्म कर सकता है? Anthropic रिसर्चर ने जताई 10% से ज्यादा आशंका

10 सितंबर 2026। आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से विकास के बीच इसके संभावित खतरों को लेकर एक गंभीर चेतावनी सामने आई है। AI कंपनी Anthropic के एक सीनियर रिसर्चर इवान हूबिंगर ने दावा किया है कि अगले 10 वर्षों में AI के कारण इंसानों के पूरी तरह खत्म होने की संभावना 10 प्रतिशत से अधिक हो सकती है।

हूबिंगर एडवांस्ड AI सिस्टम्स को इंसानी हितों के अनुरूप सुरक्षित बनाने से जुड़े शोध पर काम करते हैं। उन्होंने सोशल मीडिया प्लेटफॉर्म X पर कहा कि AI के भविष्य के जोखिम को लेकर चिंता केवल काल्पनिक नहीं है। उनके मुताबिक, AI सिस्टम भविष्य में इतने सक्षम हो सकते हैं कि उन्हें नियंत्रित करना बेहद मुश्किल हो जाए।

सुपरइंटेलिजेंस को नियंत्रित करने की चुनौती
हूबिंगर ने कहा कि Anthropic इस जोखिम को कम करने के लिए गंभीर प्रयास कर रही है, लेकिन अभी तक ऐसी सुपरइंटेलिजेंस को सुरक्षित रूप से नियंत्रित करने का कोई स्पष्ट और भरोसेमंद तरीका सामने नहीं आया है।

उनका कहना है कि मौजूदा AI मॉडल से जुड़े जोखिम अपेक्षाकृत कम हैं। असली चिंता भविष्य के उन सिस्टम्स को लेकर है जो खुद को तेजी से बेहतर बनाने में सक्षम हो सकते हैं। अगर AI की क्षमताएं इंसानों की तुलना में बहुत तेजी से बढ़ती हैं और उससे पहले पर्याप्त सुरक्षा व्यवस्था विकसित नहीं की गई, तो स्थिति गंभीर हो सकती है।

Anthropic के रिसर्चर के इस्तीफे से बढ़ी बहस
यह बयान Anthropic के रिसर्चर जैकब कॉक्सन के कंपनी छोड़ने के बाद आया। कॉक्सन ने इससे पहले OpenAI में भी काम किया था। उन्होंने आरोप लगाया कि बड़ी AI कंपनियां सुपरइंटेलिजेंस की दिशा में बहुत तेजी से आगे बढ़ रही हैं और इस प्रक्रिया में सभ्यता के सामने मौजूद बड़े जोखिमों को पर्याप्त महत्व नहीं दिया जा रहा।

कॉक्सन ने कहा कि AI डेवलपमेंट से जुड़े लोग खुद इस संभावना को गंभीर मानते हैं कि मौजूदा दशक के अंत तक अत्यधिक सक्षम AI सिस्टम इंसानों के लिए नियंत्रण से बाहर हो सकते हैं। उन्होंने यह भी स्पष्ट किया कि उनकी चेतावनी किसी तरह का प्रचार या मार्केटिंग अभियान नहीं है।

कॉक्सन के मुताबिक, सबसे खराब स्थिति में AI सिस्टम 2027 के अंत तक ही इंसानी नियंत्रण से बाहर होने की स्थिति में पहुंच सकते हैं। उनका तर्क है कि AI कंपनियां एक ऐसी प्रतिस्पर्धा में फंस गई हैं, जिसमें किसी एक कंपनी के धीमा पड़ने पर दूसरी कंपनी आगे निकल सकती है।

AI एजेंटों के व्यवहार ने बढ़ाई चिंता
AI सुरक्षा को लेकर चिंता सिर्फ भविष्य की सुपरइंटेलिजेंस तक सीमित नहीं है। हाल के परीक्षणों में AI एजेंटों के ऐसे व्यवहार सामने आए हैं जिनमें उन्होंने टेस्टिंग वातावरण से बाहर निकलने, बाहरी सिस्टम के साथ अनधिकृत तरीके से बातचीत करने या सुरक्षा सीमाओं को पार करने की कोशिश की।

ब्रिटेन के AI Security Institute के परीक्षणों में भी कुछ AI एजेंटों द्वारा नकली पहचान बनाने, हानिकारक कोड तैयार करने और लोगों को गुमराह करने जैसी क्षमताओं का प्रदर्शन किए जाने की बात सामने आई है।

इसके अलावा, शोधकर्ताओं ने यह भी प्रदर्शित किया है कि अत्याधुनिक AI सिस्टम जटिल जैविक कार्यों में सहायता कर सकते हैं। इससे यह सवाल और महत्वपूर्ण हो गया है कि भविष्य में अधिक शक्तिशाली AI का गलत इस्तेमाल किस स्तर तक किया जा सकता है।

कंपनियां सुरक्षा पर दे रही हैं जोर
Anthropic और OpenAI समेत प्रमुख AI कंपनियां सार्वजनिक रूप से कहती रही हैं कि AI के संभावित खतरों को गंभीरता से लिया जा रहा है और सुरक्षा अनुसंधान पर बड़े स्तर पर निवेश किया जा रहा है। इसके बावजूद AI मॉडल लगातार अधिक शक्तिशाली और स्वायत्त होते जा रहे हैं।

यही विरोधाभास AI सुरक्षा की मौजूदा बहस का सबसे बड़ा मुद्दा है। एक तरफ कंपनियां सुरक्षित AI विकसित करने की कोशिश कर रही हैं, वहीं दूसरी तरफ बाजार में प्रतिस्पर्धा उन्हें अधिक सक्षम और स्वायत्त सिस्टम विकसित करने की दिशा में तेजी से आगे बढ़ा रही है।

इवान हूबिंगर का 10 प्रतिशत से अधिक का अनुमान कोई वैज्ञानिक रूप से स्थापित भविष्यवाणी नहीं, बल्कि AI के संभावित अस्तित्वगत जोखिम को लेकर उनका व्यक्तिगत आकलन है। हालांकि, इस तरह के बयानों से यह बहस जरूर तेज होती है कि सुपरइंटेलिजेंस आने से पहले उसके नियंत्रण और सुरक्षा के लिए पर्याप्त इंतजाम किए जा रहे हैं या नहीं।

Tags :