8 अगस्त 2025। एक डिजिटल निगरानी संस्था, सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH), ने हाल ही में एक रिपोर्ट जारी कर चेतावनी दी है कि चैटजीपीटी जैसे एआई चैटबॉट कमजोर किशोरों के लिए खतरनाक हो सकते हैं। रिपोर्ट के मुताबिक, ये चैटबॉट उन्हें आत्महत्या, ड्रग्स और खान-पान से जुड़ी आदतों के बारे में हानिकारक और विस्तृत सलाह दे सकते हैं।
CCDH ने अपनी रिपोर्ट 'फेक फ्रेंड्स' (नकली दोस्त) में कहा है कि चैटजीपीटी को आसानी से खतरनाक जानकारी देने के लिए मजबूर किया जा सकता है, और इसे रोकने के लिए सख्त सुरक्षा उपायों की तत्काल जरूरत है।
शोध में सामने आए चौंकाने वाले नतीजे
CCDH के शोधकर्ताओं ने यह जानने के लिए कि चैटजीपीटी कैसे प्रतिक्रिया देता है, 13 साल के किशोरों के काल्पनिक प्रोफाइल बनाए। ये किशोर मानसिक स्वास्थ्य समस्याओं, खान-पान संबंधी विकारों और ड्रग्स में रुचि से जूझ रहे थे। शोधकर्ताओं ने इन किशोरों की भूमिका निभाते हुए चैटजीपीटी के साथ कई बार बातचीत की और भावनात्मक रूप से कमजोर लगने वाले सवाल पूछे।
नतीजों में पाया गया कि चैटबॉट ने अक्सर अपनी प्रतिक्रिया की शुरुआत में यह सलाह दी कि यूजर को किसी पेशेवर या हेल्पलाइन से संपर्क करना चाहिए। हालांकि, इन चेतावनियों के ठीक बाद, चैटबॉट ने वह विस्तृत और व्यक्तिगत जानकारी दी जो मूल रूप से हानिकारक थी।
कुल 1,200 संकेतों में से 53% मामलों में, चैटजीपीटी ने ऐसी सामग्री दी जिसे CCDH ने खतरनाक माना। शोधकर्ताओं ने पाया कि "यह स्कूल प्रोजेक्ट के लिए है" या "मैं अपने दोस्त के लिए पूछ रहा हूँ" जैसे वाक्य जोड़कर चैटबॉट के सुरक्षा तंत्र को आसानी से बायपास किया जा सकता था।
परेशान करने वाले उदाहरण
रिपोर्ट में कुछ बेहद परेशान करने वाले उदाहरण भी दिए गए हैं, जैसे:
'अल्टीमेट मेहेम पार्टी प्लान' जिसमें शराब, एक्स्टेसी और कोकीन के इस्तेमाल की जानकारी थी।
खुद को नुकसान पहुँचाने के तरीके।
300-500 कैलोरी तक सीमित एक हफ्ते का डाइटिंग प्लान।
13 साल की लड़की की आवाज़ में लिखे गए आत्महत्या पत्र।
CCDH के सीईओ, इमरान अहमद, ने कहा कि कुछ सामग्री इतनी परेशान करने वाली थी कि शोधकर्ताओं की आँखें नम हो गईं।
OpenAI से सुरक्षा उपायों की अपील
CCDH ने चैटजीपीटी बनाने वाली कंपनी ओपनएआई से 'डिज़ाइन द्वारा सुरक्षा' (Safety by Design) का तरीका अपनाने की अपील की है। इसका मतलब है कि सुरक्षा उपायों को सामग्री को फिल्टर करने के बजाय, एआई टूल के डिज़ाइन में ही शामिल किया जाए। इसमें सख्त आयु सत्यापन और उपयोग पर स्पष्ट प्रतिबंध जैसी सुविधाएँ होनी चाहिए।
ओपनएआई ने स्वीकार किया है कि किशोरों के बीच चैटजीपीटी पर भावनात्मक रूप से निर्भर होना आम बात है। कंपनी के सीईओ सैम ऑल्टमैन ने कहा कि वे इस समस्या का गंभीरता से अध्ययन कर रहे हैं और संकट का पता लगाने तथा संवेदनशील विषयों को बेहतर ढंग से संभालने के लिए नए टूल विकसित किए जा रहे हैं।
यह रिपोर्ट माता-पिता और शिक्षकों के लिए एक महत्वपूर्ण चेतावनी है कि उन्हें बच्चों के ऑनलाइन व्यवहार पर अधिक ध्यान देना चाहिए। क्या आपको लगता है कि एआई कंपनियों को अपने उत्पादों को सुरक्षित बनाने के लिए और अधिक ज़िम्मेदारी लेनी चाहिए?
