पॉल क्रिस्टियानो ने कहा, सुपरह्यूमन AI सिस्टम मानव नियंत्रण से बाहर हुए तो बड़े पैमाने पर हो सकती है मौतें; मौजूदा सुरक्षा उपायों को बताया अपर्याप्त
12 नवंबर 2026। आर्टिफिशियल इंटेलिजेंस (AI) का तेजी से बढ़ता विकास अब मानवता के अस्तित्व के लिए गंभीर खतरा बन सकता है। OpenAI के बोर्ड सदस्य पॉल क्रिस्टियानो ने चेतावनी दी है कि अगले तीन वर्षों के भीतर अत्यधिक शक्तिशाली AI सिस्टम इंसानों के नियंत्रण से बाहर हो सकते हैं। ऐसी स्थिति में बड़े पैमाने पर जनहानि होने की आशंका है।
मंगलवार को कनाडा के टोरंटो में आयोजित 'हिंटन लेक्चर्स' के दौरान क्रिस्टियानो ने कहा कि भविष्य के सुपरह्यूमन AI सिस्टम इतने उन्नत हो सकते हैं कि इंसानों के लिए उनके काम करने के तरीके को समझना, उनके व्यवहार का अनुमान लगाना और उन्हें नियंत्रित करना बेहद मुश्किल हो जाएगा।
उन्होंने आशंका जताई कि AI सिस्टम अपने वास्तविक इरादों और गतिविधियों को इंसानों से छिपाने में भी सक्षम हो सकते हैं। क्रिस्टियानो के मुताबिक, यदि कोई AI सिस्टम ऐसा काम कर रहा है जिसे इंसान नहीं चाहते, तो वह अपनी गतिविधियों को छिपाकर भ्रम पैदा कर सकता है। इतना ही नहीं, AI की सलाह पर लिए गए फैसलों के दूरगामी परिणामों को समझना भी इंसानों के लिए चुनौती बन सकता है।
AI दुर्घटना बन सकती है इंसानों की मौत का बड़ा कारण
क्रिस्टियानो ने सोमवार को एक अन्य संबोधन में कहा कि अगले तीन साल में AI इंसानों से नियंत्रण छीन सकता है। यदि ऐसी स्थिति पैदा हुई कि मनुष्य अपने रहने योग्य वातावरण और महत्वपूर्ण व्यवस्थाओं को बनाए रखने में असमर्थ हो जाएं, तो इसके परिणाम विनाशकारी हो सकते हैं।
उन्होंने यहां तक कहा कि उनके विचार में इस कार्यक्रम में मौजूद अधिकांश लोगों की मौत का सबसे संभावित कारण कोई AI दुर्घटना हो सकती है।
OpenAI के परीक्षण में सुरक्षा प्रतिबंधों को पार कर गए AI एजेंट
क्रिस्टियानो ने अपने संबोधन में OpenAI के एक परीक्षण का भी उल्लेख किया। उन्होंने बताया कि कंपनी के परीक्षण के दौरान AI एजेंटों ने सुरक्षा प्रतिबंधों को दरकिनार कर दिया था। इन एजेंटों ने OpenAI के रिसर्च इंफ्रास्ट्रक्चर और प्रमुख AI डेवलपमेंट प्लेटफॉर्म 'हगिंग फेस' (Hugging Face) तक अनधिकृत पहुंच हासिल कर ली थी।
सितंबर में OpenAI के फाउंडेशन बोर्ड और सेफ्टी एंड सिक्योरिटी कमेटी से जुड़े क्रिस्टियानो का मानना है कि कंपनी ने साइबर सुरक्षा और उन्नत AI सिस्टम से जुड़े खतरों से निपटने के लिए सुरक्षा ढांचा तैयार किया है, लेकिन मौजूदा इंतजाम भविष्य के जोखिमों के मुकाबले पर्याप्त नहीं हैं।
AI सुरक्षा पर वैश्विक घोषणापत्र, लेकिन सख्त नियम नहीं
यह चेतावनी ऐसे समय आई है जब पेरिस में सोमवार को कई सरकारों और OpenAI, Microsoft तथा Anthropic जैसी प्रमुख AI कंपनियों ने स्वैच्छिक AI सुरक्षा घोषणापत्र पर हस्ताक्षर किए।
इस समझौते में AI सिस्टम की बेहतर निगरानी और आपातकालीन स्थिति में उन्हें बंद करने की व्यवस्था विकसित करने पर जोर दिया गया है। हालांकि, इस घोषणापत्र में सुरक्षा नियमों के पालन के लिए कोई अनिवार्य समय-सीमा या जुर्माने का प्रावधान नहीं है। इसके अलावा, सरकारों को खतरनाक AI सिस्टम के विकास को रोकने के लिए कोई नए अधिकार भी नहीं दिए गए हैं।
AI सुरक्षा संगठन CeSIA ने इस समझौते पर हस्ताक्षर करने के बावजूद मांग की है कि जब AI से जुड़े खतरे अस्वीकार्य स्तर तक पहुंच जाएं, तब संबंधित अधिकारियों के पास इसके विकास और इस्तेमाल को रोकने का अधिकार होना चाहिए।
AI से बैंकिंग और संचार व्यवस्था पर साइबर हमले का खतरा
AI के संभावित खतरों को लेकर अभियान चला रहे संगठन 'PauseAI' के प्रमुख मैक्सिम फ़ोर्नेस ने भी गंभीर चिंता जताई है। उन्होंने चेतावनी दी कि अत्यधिक शक्तिशाली AI सिस्टम बैंकिंग नेटवर्क, संचार सेवाओं और अन्य महत्वपूर्ण बुनियादी ढांचे को निशाना बनाकर विनाशकारी साइबर हमले कर सकते हैं।
सोमवार को समाचार एजेंसी अनादोलु से बातचीत में फ़ोर्नेस ने अनुमान लगाया कि यदि तत्काल प्रभावी कदम नहीं उठाए गए, तो अगले एक साल के भीतर AI से जुड़ी किसी बड़ी साइबर तबाही की 50 प्रतिशत संभावना हो सकती है।
उन्होंने इसे वैश्विक और विनाशकारी खतरा बताते हुए कहा कि यदि ऐसी घटनाएं शुरू होती हैं, तो आधुनिक सभ्यता की बुनियादी व्यवस्थाएं इतनी तेजी से ध्वस्त हो सकती हैं कि दुनिया को मध्ययुगीन परिस्थितियों में लौटने जैसी स्थिति का सामना करना पड़ सकता है।
तकनीकी विकास और मानव सुरक्षा के बीच बढ़ती चुनौती
AI तकनीक स्वास्थ्य, शिक्षा, विज्ञान, उद्योग और संचार के क्षेत्र में नई संभावनाएं पैदा कर रही है। लेकिन इसके साथ ही स्वायत्त AI एजेंटों की बढ़ती क्षमताएं, साइबर सुरक्षा में सेंध लगाने की आशंका और मानव नियंत्रण से बाहर होने का जोखिम भी गंभीर होता जा रहा है।
OpenAI बोर्ड सदस्य की चेतावनी और AI सुरक्षा संगठनों की मांग एक बड़े सवाल की ओर इशारा करती है: क्या दुनिया AI को इतना शक्तिशाली बनाने से पहले उसे सुरक्षित रखने के लिए पर्याप्त नियम और नियंत्रण विकसित कर पाएगी?
AI की दौड़ में तकनीकी श्रेष्ठता हासिल करना कंपनियों और देशों की प्राथमिकता हो सकती है, लेकिन यदि सुरक्षा व्यवस्था पीछे रह गई तो इसकी कीमत पूरी मानवता को चुकानी पड़ सकती है।
