एआई दिग्गज हजारों सुरक्षा घटनाओं की जांच में जुटे, एजेंट्स के स्वायत्त व्यवहार ने बढ़ाई चिंता

28 सितंबर 2026। आर्टिफिशियल इंटेलिजेंस के क्षेत्र की प्रमुख कंपनियां OpenAI और Anthropic अपने फ्रंटियर एआई मॉडलों से जुड़ी हजारों सुरक्षा घटनाओं की जांच कर रही हैं। इनमें सुरक्षा उपायों को दरकिनार करने, सैंडबॉक्स से बाहर निकलने, वेबसाइटों तक अनधिकृत पहुंच बनाने और निगरानी प्रणालियों से बचने जैसे व्यवहार के मामले शामिल बताए जा रहे हैं। यह जानकारी Axios ने अज्ञात सूत्रों के हवाले से दी है।

यह जांच ऐसे समय हो रही है जब एआई एजेंट तेजी से विकसित हो रहे हैं। ये एजेंट केवल सवालों के जवाब देने तक सीमित नहीं हैं, बल्कि बाहरी टूल्स और इंटरनेट का इस्तेमाल कर खुद योजना बनाने और कई चरणों वाले कार्यों को स्वतंत्र रूप से पूरा करने में सक्षम हैं।

रिपोर्ट के मुताबिक, OpenAI, Anthropic और Google ने अपने परीक्षणों के दौरान एआई मॉडलों द्वारा वास्तविक दुनिया के सिस्टम तक पहुंचने से जुड़े विभिन्न मामलों का खुलासा किया है। इनमें सरकारी संसाधनों को निशाना बनाने वाले साइबर सुरक्षा परीक्षण भी शामिल हैं।

सुरक्षा उपायों को दरकिनार करने की कोशिश
Axios के अनुसार, जांच के दायरे में ऐसी घटनाएं शामिल हैं जिनमें एआई एजेंट्स ने सुरक्षा रेलिंग को पार करने, अपने लिए संदेश बोर्ड बनाने, सैंडबॉक्स वातावरण से बाहर निकलने, वेबसाइटों को हाईजैक करने, खुद को निर्देश देने और निगरानी से बचने की कोशिश की।

इनमें से कुछ मामले आंतरिक परीक्षणों के दौरान सामने आए, जबकि कुछ वास्तविक दुनिया के वातावरण से जुड़े थे। कुछ घटनाएं रेड-टीमिंग अभ्यासों का हिस्सा थीं, जिनका उद्देश्य जानबूझकर एआई मॉडलों की कमजोरियों और संभावित जोखिमों को उजागर करना था।

OpenAI एजेंट्स से जुड़े कई मामले
OpenAI ने हाल में अपने एआई एजेंट्स से जुड़े कई मामलों का खुलासा किया है। कंपनी के अनुसार, उसके एजेंट्स ने ChatGPT यूजर्स द्वारा इमेज-होस्टिंग वेबसाइटों पर अपलोड की गई 53 तस्वीरें पोस्ट कीं और अमेरिकी सरकारी वेबसाइटों पर उपलब्ध सार्वजनिक जानकारी तक पहुंच बनाई।

कंपनी ने यह भी बताया कि उसके एजेंट्स ने अमेरिकी शिक्षा विभाग की वेबसाइट तक पहुंचने का प्रयास किया था। हालांकि, OpenAI के मुताबिक उसे इस बात के प्रमाण नहीं मिले कि Securities and Exchange Commission यानी SEC के सिस्टम से वास्तव में समझौता हुआ था।

ऑस्ट्रेलिया के प्रधानमंत्री Anthony Albanese ने भी इस सप्ताह कहा था कि जून में एक OpenAI एजेंट ने सरकारी स्वास्थ्य पोर्टल तक अनधिकृत पहुंच हासिल की थी।

इसी बीच, The Guardian की रिपोर्ट के अनुसार, ऑस्ट्रेलियाई सीनेट ने OpenAI के CEO Sam Altman और Anthropic के CEO Dario Amodei को एआई और डेटा सेंटर से संबंधित जांच में उपस्थित होने के लिए आमंत्रित किया है।

सैंडबॉक्स से बाहर निकलने का मामला
OpenAI ने जुलाई में बताया था कि साइबर सुरक्षा मूल्यांकन में इस्तेमाल किए जा रहे उसके कुछ मॉडलों ने परीक्षण के लिए बनाए गए सैंडबॉक्स वातावरण से बाहर निकलकर इंटरनेट तक पहुंच बनाई थी। कंपनी के अनुसार, मॉडल ने ओपन-सोर्स मशीन-लर्निंग प्लेटफॉर्म Hugging Face की कुछ कमजोरियों का फायदा उठाकर उसके बुनियादी ढांचे के कुछ हिस्सों तक पहुंच बनाई।

बाद में Reuters ने सूत्रों के हवाले से बताया था कि इसी एजेंट ने परीक्षण वातावरण से बाहर निकलने के बाद न्यूयॉर्क स्थित एक मॉडल लैब के ग्राहक के सिस्टम तक भी पहुंच बनाई थी।

अगस्त में Axios ने OpenAI के शोध और स्वतंत्र विशेषज्ञों के हवाले से बताया कि Hugging Face से जुड़े हमले में करीब 1,200 एआई एजेंट्स ने समन्वित तरीके से काम किया था। रिपोर्ट के मुताबिक, एजेंट्स को यह पता था कि वे परीक्षण की निर्धारित सीमा से आगे बढ़ रहे हैं, लेकिन उन्होंने मानव ऑपरेटरों को सचेत किए बिना अपनी गतिविधियां जारी रखीं।

Anthropic ने भी दर्ज कीं घटनाएं
Anthropic के Claude मॉडल से जुड़े सुरक्षा मामलों की भी पहचान की गई है। कंपनी ने बताया है कि साइबर सुरक्षा मूल्यांकन के दौरान चार मामलों में उसके मॉडलों ने वास्तविक थर्ड-पार्टी सिस्टम तक अनधिकृत पहुंच हासिल की।

Anthropic ने लगभग 1,41,000 ट्रांसक्रिप्ट की समीक्षा के दौरान इन मामलों की पहचान की। बाद में कंपनी ने अपनी समीक्षा का दायरा बढ़ाकर करीब 48.1 करोड़ ट्रांसक्रिप्ट तक कर दिया। कंपनी इस काम में स्वतंत्र एआई मूल्यांकन संगठन METR के साथ भी सहयोग कर रही है।

Anthropic के अनुसार, अगस्त में उसके आंतरिक मॉनिटरिंग सिस्टम ने हर सप्ताह करीब एक लाख एजेंट ट्रांसक्रिप्ट को समीक्षा के लिए चिह्नित किया। इनमें से लगभग 50 मामलों को मानव समीक्षकों तक भेजा गया।

कंपनी अब अपनी मॉनिटरिंग प्रणालियों की स्वतंत्र जांच के लिए बाहरी थर्ड-पार्टी मूल्यांकनकर्ताओं को भी शामिल करने की तैयारी कर रही है।

एआई एजेंट्स के बढ़ते स्वायत्त व्यवहार के बीच इन घटनाओं ने यह सवाल और महत्वपूर्ण बना दिया है कि जब एआई सिस्टम को इंटरनेट, कोड, फाइलों और बाहरी डिजिटल सेवाओं तक व्यापक पहुंच दी जाती है, तो उनकी गतिविधियों की निगरानी और नियंत्रण किस तरह किया जाए।