3 मार्च 2026। नीदरलैंड के दो एडवोकेसी ग्रुप्स ने सोशल मीडिया प्लेटफॉर्म X और उसके AI टूल Grok के खिलाफ अदालत का दरवाज़ा खटखटाया है। आरोप है कि इन प्लेटफॉर्म्स के ज़रिए यूज़र्स बिना सहमति लोगों की तस्वीरों को एडिट कर उनके कपड़े हटाने जैसे आपत्तिजनक कंटेंट तैयार कर रहे हैं।
डच संस्थाएं Offlimits और Fonds Slachtofferhulp ने समरी प्रोसिडिंग्स दायर करते हुए कोर्ट से मांग की है कि अगर X और Grok ऐसे फीचर्स पर तुरंत रोक नहीं लगाते, तो उन पर हर दिन 1 लाख यूरो का जुर्माना लगाया जाए।
संस्थाओं का कहना है कि Grok जैसे AI टूल्स का इस्तेमाल बड़े पैमाने पर गैर-कानूनी और अपमानजनक इमेज बनाने व फैलाने में किया जा सकता है। उनका तर्क है कि हर दिन जब इस तरह का कंटेंट बनता और शेयर होता है, नए लोग पीड़ित बनते हैं, इसलिए देरी की कोई गुंजाइश नहीं है।
Fonds Slachtofferhulp की डायरेक्टर इनेके साइबेस्मा ने कहा कि टेक्नोलॉजी की रफ्तार कानून और निगरानी तंत्र से कहीं तेज़ है। कानूनी प्रक्रिया में समय लगता है, लेकिन नुकसान रोज़ हो रहा है। उनके मुताबिक, पीड़ितों की संख्या लगातार बढ़ रही है और उन्हें “बिना सीमा वाली टेक्नोलॉजी” की कीमत नहीं चुकानी चाहिए।
Offlimits के निदेशक रॉबर्ट होविंग ने भी तत्काल कार्रवाई पर ज़ोर दिया। उनका कहना है कि AI से एडिट या जनरेट की गई इमेज का इस्तेमाल ऑनलाइन धमकाने, बदनाम करने और यौन उत्पीड़न के लिए हो रहा है। ऐसे टूल्स की आसान उपलब्धता के कारण इस तरह के कंटेंट का बड़े पैमाने पर निर्माण और प्रसार संभव हो गया है। उन्होंने इसे “धीरे-धीरे बढ़ती आपदा” करार दिया।
याचिका में मांग की गई है कि कोर्ट उन सभी फीचर्स पर तुरंत रोक लगाए जो बिना सहमति किसी व्यक्ति को न्यूड या सेमी-न्यूड दिखाने की इजाज़त देते हैं। साथ ही ऐसे टूल्स को भी बंद किया जाए जो चाइल्ड सेक्शुअल अब्यूज़ मटीरियल (CSAM) जैसी श्रेणी में आने वाला कंटेंट तैयार करने में मदद कर सकते हैं। जब तक ये शर्तें पूरी नहीं होतीं, हर दिन 1 लाख यूरो का जुर्माना लगाने की मांग की गई है।
इन संगठनों की ओर से पेश वकील ओटो वोल्गेनेंट का कहना है कि तथाकथित “न्यूडिफाई” फीचर्स यूरोपीय कानूनों का उल्लंघन करते हैं, जिनमें General Data Protection Regulation और Digital Services Act शामिल हैं। उनके मुताबिक, यह आपराधिक कानून, सिविल लॉ मानकों और पोर्ट्रेट राइट्स के भी खिलाफ है। यूरोपीय केस लॉ बिना सहमति यौन प्रकृति की इमेज के प्रसार पर सख्त शर्तें लगाता है।
मामले की सुनवाई 12 मार्च 2026 को Amsterdam District Court में होगी।
इस बीच यूनाइटेड किंगडम ने भी कड़ा रुख अपनाया है। वहां सरकार ने Crime and Policing Bill में संशोधन का प्रस्ताव रखा है, जिसके तहत टेक कंपनियों को 48 घंटे के भीतर बिना सहमति वाली अंतरंग इमेज हटानी होंगी और उनके निर्माण व प्रसार पर कार्रवाई करनी होगी।
यूके की टेक्नोलॉजी सेक्रेटरी Liz Kendall ने कहा कि यह कदम टेक कंपनियों को जवाबदेह बनाने की दिशा में जरूरी है। उनके मुताबिक, जिन कंपनियों के पास संसाधन और शक्ति है, उन्हें ही कार्रवाई की जिम्मेदारी उठानी चाहिए ताकि ऑनलाइन दुनिया महिलाओं और लड़कियों के लिए सुरक्षित और सम्मानजनक बन सके।
अब नजर एम्स्टर्डम की अदालत पर है। फैसला सिर्फ दो संगठनों और दो टेक प्लेटफॉर्म के बीच का विवाद नहीं होगा, बल्कि यह तय करेगा कि यूरोप AI के इस धुंधले क्षेत्र को कितनी सख्ती से रेगुलेट करता है।
