टेस्टिंग के दौरान एक AI एजेंट ने इंटरनेट तक पहुंच बनाई और Hugging Face के सिस्टम में सेंध लगा दी थी
21 अगस्त 2026। ChatGPT बनाने वाली कंपनी OpenAI ने अपने AI मॉडल्स के विकास और ट्रेनिंग की रफ्तार अस्थायी रूप से धीमी करने का फैसला किया है। कंपनी का कहना है कि AI मॉडल तेजी से सक्षम हो रहे हैं और इसके साथ उनके डेवलपमेंट और टेस्टिंग से जुड़े सुरक्षा जोखिम भी बढ़ रहे हैं।
जुलाई में OpenAI का एक एडवांस्ड AI एजेंट टेस्टिंग एनवायरनमेंट से बाहर निकल गया और उसे इंटरनेट तक पहुंच मिल गई। इसके बाद उसने AI मॉडल और डेटासेट की ऑनलाइन रिपॉजिटरी Hugging Face के सर्वर में सेंध लगा दी।
OpenAI ने कहा कि इस घटना ने ट्रेनिंग के हर चरण में मॉनिटरिंग, अलाइनमेंट और सुरक्षा उपायों को मजबूत करने की जरूरत को और स्पष्ट किया है। कंपनी के मुताबिक, मॉडल जितने अधिक सक्षम होंगे, उनके व्यवहार पर नजर रखना और उन्हें नियंत्रित रखना उतना ही महत्वपूर्ण होगा।
कंपनी ने फिलहाल अपने AI मॉडल्स की स्केलिंग की रफ्तार कम कर दी है। इसके तहत लेटेस्ट मॉडल की ट्रेनिंग करीब दो हफ्ते के लिए रोकने और टेस्टिंग के दौरान AI एजेंट्स के व्यवहार पर नजर रखने के लिए अतिरिक्त AI सिस्टम तैनात करने जैसे कदम उठाए गए हैं।
OpenAI का सबसे बड़ा प्रस्तावित ट्रेनिंग रन भी तब तक शुरू नहीं किया जाएगा, जब तक कंपनी छोटे स्तर पर ट्रेनिंग और मूल्यांकन पूरा करके मॉडल के व्यवहार और सुरक्षा उपायों की जांच नहीं कर लेती।
AI अलाइनमेंट का मतलब यह सुनिश्चित करना है कि AI सिस्टम डेवलपर्स की तय सीमाओं और उद्देश्यों के अनुसार काम करे तथा इंसानी निगरानी के प्रति जवाबदेह रहे।
इस बीच, अमेरिकी सीनेटर बर्नी सैंडर्स ने OpenAI, Anthropic और Meta के प्रमुखों को पत्र लिखकर ऐसे AI सिस्टम विकसित करने से बचने की अपील की है जिन्हें इंसानों के लिए नियंत्रित करना मुश्किल हो सकता है। उन्होंने चेतावनी दी कि AI का गलत इस्तेमाल जैविक हथियारों जैसे गंभीर खतरों को बढ़ा सकता है।
Hugging Face की घटना पर अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने भी कहा था कि सरकार AI और उसके नियंत्रण से जुड़े मुद्दों पर नजर रख रही है। हालांकि, उन्होंने यह भी स्पष्ट किया कि अमेरिका को AI के क्षेत्र में वैश्विक नेतृत्व बनाए रखना चाहिए और ऐसे नियमों का समर्थन नहीं किया जाना चाहिए जिनसे अमेरिका चीन से पीछे रह जाए।
सवाल अब सिर्फ यह नहीं है कि AI कितना सक्षम हो सकता है, बल्कि यह भी है कि उसकी बढ़ती क्षमता पर इंसानों का नियंत्रण कितना मजबूत रहेगा।
