AI टूल्स के दुरुपयोग से बच्चों की ऑनलाइन सुरक्षा पर गंभीर खतरा, दो साल में AI से जुड़ी ऐसी रिपोर्टें 4,700 से बढ़कर 4 लाख के पार पहुंचीं
18 नवंबर 2026। आर्टिफिशियल इंटेलिजेंस (AI) का बढ़ता इस्तेमाल अब बच्चों की ऑनलाइन सुरक्षा के लिए गंभीर चुनौती बनता जा रहा है। एक अंतरराष्ट्रीय अध्ययन में सामने आया है कि AI की मदद से तैयार बच्चों के यौन शोषण से जुड़ी सामग्री की रिपोर्टों में पिछले दो वर्षों के दौरान 8,400 प्रतिशत से अधिक की वृद्धि हुई है। अपराधी AI टूल्स का इस्तेमाल वास्तविक बच्चों की तस्वीरों से फर्जी अश्लील तस्वीरें और वीडियो तैयार करने के लिए कर रहे हैं। बाद में इन्हीं तस्वीरों के जरिए बच्चों को ब्लैकमेल और यौन शोषण का शिकार बनाया जा रहा है।
एडिनबर्ग यूनिवर्सिटी के चाइल्डलाइट ग्लोबल चाइल्ड सेफ्टी इंस्टीट्यूट के अध्ययन के अनुसार, टेक्नोलॉजी कंपनियों की ओर से अमेरिका स्थित नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (NCMEC) को भेजी गई AI से संबंधित रिपोर्टों की संख्या 2023 में लगभग 4,700 थी। वर्ष 2025 में यह आंकड़ा बढ़कर 4 लाख से अधिक हो गया।
AI से बन रहे बच्चों के फर्जी अश्लील फोटो और वीडियो
अध्ययन में बताया गया है कि AI आधारित 'न्यूडिफाई' (Nudify) ऐप्स के जरिए सामान्य तस्वीरों को कुछ ही सेकंड में अश्लील तस्वीरों में बदला जा सकता है। इन टूल्स का इस्तेमाल बच्चों की वास्तविक तस्वीरों से फर्जी यौन सामग्री तैयार करने में किया जा रहा है।
ऐसी तस्वीरों का इस्तेमाल अपराधी बच्चों को डराने, ब्लैकमेल करने और उनसे जबरन वसूली करने के लिए कर सकते हैं। कई मामलों में अपराधी पीड़ित बच्चों के परिचित या उनके आसपास के लोग भी पाए गए हैं।
NCMEC ने 2024 और 2025 के दौरान ऐसे 275 से अधिक बच्चों की पहचान की, जो AI से तैयार यौन शोषण सामग्री के सीधे शिकार हुए थे।
हर साल 30 करोड़ से अधिक बच्चे ऑनलाइन यौन दुर्व्यवहार के खतरे में
चाइल्डलाइट की ग्लोबल डायरेक्टर ऑफ डेटा प्रोफेसर डेबी फ्राई ने कहा कि AI जिस तेजी से बच्चों के लिए खतरों का स्वरूप बदल रहा है, वह बेहद चिंताजनक है। हालांकि, उन्होंने यह भी स्पष्ट किया कि रिपोर्टिंग और ऐसी सामग्री की पहचान करने की बेहतर तकनीक के कारण भी आंकड़ों में वृद्धि हो सकती है।
संस्थान के अनुमान के मुताबिक, दुनिया भर में हर साल 30 करोड़ से अधिक बच्चे टेक्नोलॉजी के माध्यम से होने वाले यौन शोषण और दुर्व्यवहार का सामना करते हैं। वहीं, हर चार में से एक बच्चा वयस्क होने से पहले ऑनलाइन दुर्व्यवहार का शिकार होता है।
ब्रिटेन में AI से बने 3,443 आपत्तिजनक वीडियो की पहचान
ब्रिटेन की इंटरनेट वॉच फाउंडेशन (IWF) ने वर्ष 2025 में AI से तैयार बच्चों के यौन शोषण से जुड़े 3,443 वीडियो की पहचान की। वर्ष 2024 में ऐसे वीडियो की संख्या केवल 13 थी। पहचाने गए वीडियो में लगभग दो-तिहाई मामले ब्रिटिश कानून के तहत सबसे गंभीर श्रेणी में रखे गए।
इससे स्पष्ट होता है कि जनरेटिव AI तकनीक का दुरुपयोग कितनी तेजी से बढ़ रहा है और मौजूदा सुरक्षा व्यवस्थाओं के सामने किस तरह की चुनौतियां खड़ी हो रही हैं।
Grok और X पर भी उठे AI डीपफेक को लेकर सवाल
AI से तैयार यौन डीपफेक सामग्री को लेकर एलन मस्क की कंपनियों X और xAI भी जांच के दायरे में आ चुकी हैं।
कनाडा की प्राइवेसी निगरानी संस्था ने जून में पाया कि X और xAI ने Grok के इमेज जनरेशन टूल को पर्याप्त सुरक्षा उपायों के बिना लॉन्च किया, जिससे यौन प्रकृति वाले डीपफेक तैयार होने का खतरा पैदा हुआ।
सेंटर फॉर काउंटरिंग डिजिटल हेट के अनुमान के अनुसार, Grok ने महज 11 दिनों में लगभग 30 लाख यौन प्रकृति वाले डीपफेक तैयार किए। इनमें 23,000 से अधिक तस्वीरों में बच्चों को शामिल किए जाने का दावा किया गया।
यूरोपीय आयोग ने भी जनवरी में X के खिलाफ जांच शुरू की थी। यह जांच Grok के जरिए अवैध यौन डीपफेक तैयार किए जाने और बच्चों से जुड़ी आपत्तिजनक सामग्री के सामने आने के बाद शुरू हुई। ब्रिटेन के नियामकों ने भी X और xAI के खिलाफ अलग-अलग जांच शुरू की।
AI कंपनियों के लिए सख्त सुरक्षा नियमों की जरूरत
AI तकनीक के तेजी से विकास के बीच नियामक संस्थाओं के सामने सबसे बड़ी चुनौती यह है कि मौजूदा कानून नई तकनीकों के दुरुपयोग को पूरी तरह नियंत्रित नहीं कर पा रहे हैं।
ब्रिटेन की नियामक संस्था Ofcom ने स्वीकार किया है कि मौजूदा ऑनलाइन सुरक्षा कानून पूरी तरह स्वतंत्र रूप से काम करने वाले AI चैटबॉट्स को पूरी तरह कवर नहीं करते। इसके कारण कुछ इमेज जनरेशन टूल मौजूदा सुरक्षा नियमों के दायरे से बाहर रह सकते हैं।
ब्रिटेन के AI सिक्योरिटी इंस्टीट्यूट ने भी चेतावनी दी है कि AI मॉडल को लॉन्च से पहले टेस्ट करने के बावजूद उनके दुरुपयोग की आशंका पूरी तरह समाप्त नहीं की जा सकती। विशेष रूप से ऐसे मॉडल अधिक जोखिम पैदा करते हैं, जिनके सॉफ्टवेयर को डाउनलोड करके उसमें बदलाव किया जा सकता है और स्वतंत्र रूप से चलाया जा सकता है।
संस्थान ने AI सिस्टम के विकास और इस्तेमाल के दौरान सख्त सुरक्षा परीक्षण, नियंत्रित पहुंच और लगातार निगरानी की आवश्यकता पर जोर दिया है।
साइबर सुरक्षा के लिए भी बन रही नई चुनौती
AI के दुरुपयोग का खतरा केवल बच्चों के ऑनलाइन शोषण तक सीमित नहीं है। शक्तिशाली AI सिस्टम सुरक्षा नियंत्रणों को दरकिनार करने और साइबर हमलों में इस्तेमाल होने की क्षमता भी प्रदर्शित कर रहे हैं।
सितंबर में ऑस्ट्रेलिया ने पुष्टि की थी कि OpenAI के एक एजेंट ने सरकारी सुरक्षा नियंत्रणों को पार करते हुए प्रतिबंधित मेडिकेयर (Medicare) फाइलों तक पहुंच बना ली थी। इसके अगले महीने शोधकर्ताओं ने दक्षिण कोरिया के कम से कम नौ बैंकों पर हुए साइबर हमलों को AI आधारित हैकिंग से जोड़ा।
AI तकनीक जहां शिक्षा, स्वास्थ्य, शोध और कारोबार में नई संभावनाएं खोल रही है, वहीं इसका अनियंत्रित और आपराधिक इस्तेमाल समाज के लिए गंभीर खतरा बनता जा रहा है। खासकर बच्चों की तस्वीरों और व्यक्तिगत जानकारी के दुरुपयोग को रोकने के लिए टेक्नोलॉजी कंपनियों, सरकारों और नियामक संस्थाओं को अधिक प्रभावी सुरक्षा व्यवस्था विकसित करने की जरूरत है।