केंद्र सरकार ने X और Grok AI पर अश्लील कंटेंट को लेकर कसी नकेल

केंद्र सरकार ने एलॉन मस्क के सोशल मीडिया प्लेटफॉर्म X को अश्लील, नग्न और गैर-कानूनी कंटेंट को लेकर सख्त निर्देश जारी किए हैं। सरकार ने खास तौर पर Grok नामक AI ऐप के माध्यम से बनाए जा रहे आपत्तिजनक कंटेंट पर रोक लगाने को कहा है।

72 घंटे में अश्लील और सेक्शुअल कंटेंट हटाने का आदेश

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने X के भारत स्थित चीफ कंप्लायंस ऑफिसर को नोटिस भेजा है। नोटिस में निर्देश दिया गया है कि प्लेटफॉर्म पर मौजूद सभी गैर-कानूनी, अश्लील, नग्न, अभद्र और सेक्शुअल कंटेंट को 72 घंटे के भीतर हटाया जाए या उस तक पहुंच पूरी तरह बंद की जाए।

साथ ही यह भी स्पष्ट किया गया है कि कंटेंट हटाते समय सबूतों में किसी तरह की छेड़छाड़ नहीं होनी चाहिए। मंत्रालय ने X से यह रिपोर्ट भी मांगी है कि अब तक ऐसे कंटेंट को रोकने के लिए क्या-क्या कदम उठाए गए हैं, और यह जानकारी भी 72 घंटे के भीतर देने को कहा गया है।

आईटी एक्ट और नियमों के उल्लंघन पर कार्रवाई की चेतावनी

मंत्रालय के अनुसार X ने सूचना प्रौद्योगिकी अधिनियम 2000 और आईटी नियम 2021 के तहत निर्धारित कानूनी जिम्मेदारियों का पूरी तरह पालन नहीं किया है। सरकार ने चेतावनी दी है कि यदि निर्देशों का पालन नहीं हुआ तो X, उसके जिम्मेदार अधिकारियों और अश्लील कंटेंट फैलाने वाले उपयोगकर्ताओं के खिलाफ आईटी एक्ट, आईटी रूल्स और अन्य लागू कानूनों के तहत सख्त कार्रवाई की जा सकती है।

प्रियंका चतुर्वेदी की शिकायत के बाद सरकार की सख्ती

शिवसेना (उद्धव बालासाहेब ठाकरे) की सांसद प्रियंका चतुर्वेदी ने AI चैटबॉट Grok के गलत इस्तेमाल को गंभीर मुद्दा बताते हुए केंद्र सरकार से सख्त कार्रवाई की मांग की थी। उन्होंने आईटी मंत्री को पत्र लिखकर बताया कि कुछ लोग महिलाओं की असली तस्वीरें सोशल मीडिया पर पोस्ट कर, Grok AI की मदद से उन्हें आपत्तिजनक रूप में बदल रहे हैं।

चतुर्वेदी के अनुसार इन तस्वीरों को एडिट कर महिलाओं के कपड़े बदल दिए जाते हैं या उन्हें यौन संकेतों वाले अंदाज में पेश किया जाता है, जबकि ज्यादातर मामलों में महिलाओं से कोई अनुमति नहीं ली जाती। कई पीड़ित महिलाओं को यह तक पता नहीं होता कि उनकी तस्वीरों का इस तरह इस्तेमाल किया जा रहा है। यह प्रक्रिया Grok AI के दिए गए प्रॉम्प्ट के माध्यम से आसानी से की जा रही है।

फर्जी अकाउंट्स और Grok के गलत प्रॉम्प्ट

शिकायत में कहा गया है कि कुछ यूजर X पर फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें अपलोड करते हैं। इसके बाद Grok AI को ऐसे प्रॉम्प्ट दिए जाते हैं जो तस्वीरों को गलत, अश्लील या अत्यंत आपत्तिजनक रूप में बदल देते हैं। आरोप है कि Grok इन अनुचित मांगों को रोकने के बजाय स्वीकार कर लेता है, जिससे इस तरह की गतिविधियों को बढ़ावा मिल रहा है।

पहले भी दी जा चुकी है सोशल मीडिया कंपनियों को चेतावनी

इससे पहले 30 दिसंबर को केंद्र सरकार ने सभी सोशल मीडिया प्लेटफॉर्म्स को नोटिस जारी कर अश्लील, भद्दे, पोर्नोग्राफिक, बच्चों के यौन शोषण से जुड़े और गैर-कानूनी कंटेंट पर तत्काल रोक लगाने को कहा था। सरकार ने स्पष्ट किया था कि यदि कंपनियां ऐसे कंटेंट पर कार्रवाई नहीं करेंगी, तो उनके खिलाफ कानूनी केस दर्ज किए जाएंगे।

निष्कर्ष: ऑनलाइन अश्लीलता और AI दुरुपयोग पर सख्त रुख

केंद्र सरकार ने X और Grok AI के संदर्भ में जो निर्देश जारी किए हैं, वे स्पष्ट संकेत देते हैं कि ऑनलाइन अश्लीलता और आर्टिफिशियल इंटेलिजेंस के दुरुपयोग को लेकर सरकार कड़ा रुख अपनाने के मूड में है। महिलाओं की छवियों के साथ बिना अनुमति छेड़छाड़, उनके सम्मान और गोपनीयता पर गंभीर हमला माना जा रहा है। आने वाले समय में यह मामला सोशल मीडिया कंपनियों और AI प्लेटफॉर्म्स के नियमन से जुड़े व्यापक कदमों की दिशा तय कर सकता है।

Pushpendra Chaubey