10 सितंबर 2026। आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से विकास के बीच इसके संभावित खतरों को लेकर एक गंभीर चेतावनी सामने आई है। AI कंपनी Anthropic के एक सीनियर रिसर्चर इवान हूबिंगर ने दावा किया है कि अगले 10 वर्षों में AI के कारण इंसानों के पूरी तरह खत्म होने की संभावना 10 प्रतिशत से अधिक हो सकती है।
हूबिंगर एडवांस्ड AI सिस्टम्स को इंसानी हितों के अनुरूप सुरक्षित बनाने से जुड़े शोध पर काम करते हैं। उन्होंने सोशल मीडिया प्लेटफॉर्म X पर कहा कि AI के भविष्य के जोखिम को लेकर चिंता केवल काल्पनिक नहीं है। उनके मुताबिक, AI सिस्टम भविष्य में इतने सक्षम हो सकते हैं कि उन्हें नियंत्रित करना बेहद मुश्किल हो जाए।
सुपरइंटेलिजेंस को नियंत्रित करने की चुनौती
हूबिंगर ने कहा कि Anthropic इस जोखिम को कम करने के लिए गंभीर प्रयास कर रही है, लेकिन अभी तक ऐसी सुपरइंटेलिजेंस को सुरक्षित रूप से नियंत्रित करने का कोई स्पष्ट और भरोसेमंद तरीका सामने नहीं आया है।
उनका कहना है कि मौजूदा AI मॉडल से जुड़े जोखिम अपेक्षाकृत कम हैं। असली चिंता भविष्य के उन सिस्टम्स को लेकर है जो खुद को तेजी से बेहतर बनाने में सक्षम हो सकते हैं। अगर AI की क्षमताएं इंसानों की तुलना में बहुत तेजी से बढ़ती हैं और उससे पहले पर्याप्त सुरक्षा व्यवस्था विकसित नहीं की गई, तो स्थिति गंभीर हो सकती है।
Anthropic के रिसर्चर के इस्तीफे से बढ़ी बहस
यह बयान Anthropic के रिसर्चर जैकब कॉक्सन के कंपनी छोड़ने के बाद आया। कॉक्सन ने इससे पहले OpenAI में भी काम किया था। उन्होंने आरोप लगाया कि बड़ी AI कंपनियां सुपरइंटेलिजेंस की दिशा में बहुत तेजी से आगे बढ़ रही हैं और इस प्रक्रिया में सभ्यता के सामने मौजूद बड़े जोखिमों को पर्याप्त महत्व नहीं दिया जा रहा।
कॉक्सन ने कहा कि AI डेवलपमेंट से जुड़े लोग खुद इस संभावना को गंभीर मानते हैं कि मौजूदा दशक के अंत तक अत्यधिक सक्षम AI सिस्टम इंसानों के लिए नियंत्रण से बाहर हो सकते हैं। उन्होंने यह भी स्पष्ट किया कि उनकी चेतावनी किसी तरह का प्रचार या मार्केटिंग अभियान नहीं है।
कॉक्सन के मुताबिक, सबसे खराब स्थिति में AI सिस्टम 2027 के अंत तक ही इंसानी नियंत्रण से बाहर होने की स्थिति में पहुंच सकते हैं। उनका तर्क है कि AI कंपनियां एक ऐसी प्रतिस्पर्धा में फंस गई हैं, जिसमें किसी एक कंपनी के धीमा पड़ने पर दूसरी कंपनी आगे निकल सकती है।
AI एजेंटों के व्यवहार ने बढ़ाई चिंता
AI सुरक्षा को लेकर चिंता सिर्फ भविष्य की सुपरइंटेलिजेंस तक सीमित नहीं है। हाल के परीक्षणों में AI एजेंटों के ऐसे व्यवहार सामने आए हैं जिनमें उन्होंने टेस्टिंग वातावरण से बाहर निकलने, बाहरी सिस्टम के साथ अनधिकृत तरीके से बातचीत करने या सुरक्षा सीमाओं को पार करने की कोशिश की।
ब्रिटेन के AI Security Institute के परीक्षणों में भी कुछ AI एजेंटों द्वारा नकली पहचान बनाने, हानिकारक कोड तैयार करने और लोगों को गुमराह करने जैसी क्षमताओं का प्रदर्शन किए जाने की बात सामने आई है।
इसके अलावा, शोधकर्ताओं ने यह भी प्रदर्शित किया है कि अत्याधुनिक AI सिस्टम जटिल जैविक कार्यों में सहायता कर सकते हैं। इससे यह सवाल और महत्वपूर्ण हो गया है कि भविष्य में अधिक शक्तिशाली AI का गलत इस्तेमाल किस स्तर तक किया जा सकता है।
कंपनियां सुरक्षा पर दे रही हैं जोर
Anthropic और OpenAI समेत प्रमुख AI कंपनियां सार्वजनिक रूप से कहती रही हैं कि AI के संभावित खतरों को गंभीरता से लिया जा रहा है और सुरक्षा अनुसंधान पर बड़े स्तर पर निवेश किया जा रहा है। इसके बावजूद AI मॉडल लगातार अधिक शक्तिशाली और स्वायत्त होते जा रहे हैं।
यही विरोधाभास AI सुरक्षा की मौजूदा बहस का सबसे बड़ा मुद्दा है। एक तरफ कंपनियां सुरक्षित AI विकसित करने की कोशिश कर रही हैं, वहीं दूसरी तरफ बाजार में प्रतिस्पर्धा उन्हें अधिक सक्षम और स्वायत्त सिस्टम विकसित करने की दिशा में तेजी से आगे बढ़ा रही है।
इवान हूबिंगर का 10 प्रतिशत से अधिक का अनुमान कोई वैज्ञानिक रूप से स्थापित भविष्यवाणी नहीं, बल्कि AI के संभावित अस्तित्वगत जोखिम को लेकर उनका व्यक्तिगत आकलन है। हालांकि, इस तरह के बयानों से यह बहस जरूर तेज होती है कि सुपरइंटेलिजेंस आने से पहले उसके नियंत्रण और सुरक्षा के लिए पर्याप्त इंतजाम किए जा रहे हैं या नहीं।
