Grok पर अश्लील कंटेंट बनाने पर एक्स ने लिए सख्त फैसले

सोशल मीडिया प्लेटफॉर्म एक्स (X) ने अपने एआई एप Grok के जरिए बनाए जा रहे अश्लील और आपत्तिजनक कंटेंट के खिलाफ कड़े नियम लागू किए हैं। कंपनी ने साफ किया है कि ऐसे कंटेंट को तुरंत हटाया जाएगा और जिम्मेदार यूजर्स के अकाउंट स्थायी रूप से बैन किए जा सकते हैं।

Grok से बनाए गए कंटेंट पर भी अवैध अपलोड जितनी सख्ती

एक्स ने घोषणा की है कि अगर कोई यूजर Grok की मदद से आपत्तिजनक या अवैध विजुअल कंटेंट तैयार करता है, तो उसके खिलाफ वही कार्रवाई होगी जो सीधे प्लेटफॉर्म पर अवैध कंटेंट अपलोड करने पर होती है। इसमें यूजर का अकाउंट हमेशा के लिए बंद किए जाने जैसी सजा भी शामिल है। कंपनी का कहना है कि अश्लील या फूहड़ एआई कंटेंट को भी प्लेटफॉर्म की नीतियों के तहत बैन किया जाएगा।

भारत सरकार की आपत्ति के बाद नियम कड़े

ये कदम भारत सरकार की आपत्ति के तीन दिन बाद उठाया गया। केंद्र सरकार ने 2 जनवरी को एक्स को निर्देश दिया था कि Grok की मदद से बनाई जा रही अश्लील और फूहड़ सामग्री को तुरंत हटाया जाए, अन्यथा कानूनन कार्रवाई की जाएगी। इससे पहले 30 दिसंबर को केंद्र ने सभी सोशल मीडिया प्लेटफॉर्म्स को अश्लील, भद्दे, पोर्नोग्राफिक, बच्चों के यौन शोषण से जुड़े और अन्य गैरकानूनी कंटेंट पर तत्काल रोक लगाने की चेतावनी दी थी और कहा था कि नियमों का पालन न करने पर कंपनियों के खिलाफ केस दर्ज किया जा सकता है।

सांसद प्रियंका चतुर्वेदी ने उठाया था मुद्दा

शिवसेना (यूबीटी) की सांसद प्रियंका चतुर्वेदी ने एआई चैटबॉट Grok के गलत इस्तेमाल पर गंभीर चिंता जताई थी। उन्होंने 2 जनवरी को आईटी मिनिस्टर अश्विनी वैष्णव को पत्र लिखकर शिकायत की कि कुछ लोग एआई की मदद से महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं, जो बेहद गंभीर मामला है।

बताया गया कि कुछ यूजर सोशल मीडिया प्लेटफॉर्म एक्स पर फर्जी अकाउंट बनाकर महिलाओं की सामान्य तस्वीरें पोस्ट करते हैं, फिर Grok एआई को ऐसे प्रॉम्प्ट देते हैं जिनमें उन तस्वीरों के कपड़े बदलने या उन्हें यौन रूप से संकेतात्मक अंदाज में पेश करने जैसी मांग की जाती है। कई मामलों में न तो महिलाओं से अनुमति ली जाती है और न ही उन्हें पता होता है कि उनकी तस्वीरों का इस तरह इस्तेमाल हो रहा है। आरोप है कि Grok ऐसे अनुचित प्रॉम्प्ट को रोकने के बजाय उन्हें मान भी लेता है।

इलॉन मस्क का जवाब: जिम्मेदारी टूल की नहीं, यूजर की

इन शिकायतों के बीच एक्स के मालिक इलॉन मस्क ने कहा था कि कुछ लोग आरोप लगा रहे हैं कि Grok आपत्तिजनक तस्वीरें बना रहा है, लेकिन यह वैसा ही है जैसे किसी बुरी बात को लिखने के लिए पेन को दोष देना। मस्क के अनुसार कलम यह तय नहीं करती कि क्या लिखा जाएगा, यह फैसला उसे पकड़ने वाला व्यक्ति करता है।

मस्क ने स्पष्ट किया कि Grok भी इसी सिद्धांत पर काम करता है और यूजर को क्या आउटपुट मिलेगा, यह काफी हद तक उनके इनपुट पर निर्भर करता है। उनके मुताबिक जिम्मेदारी एआई टूल की नहीं, बल्कि उसे इस्तेमाल करने वाले व्यक्ति की होती है।

नतीजा: एआई अश्लील कंटेंट पर कड़े नियम लागू

सांसद की शिकायत, केंद्र सरकार की चेतावनी और एआई के दुरुपयोग के बढ़ते मामलों के मद्देनजर एक्स ने Grok से बने अश्लील कंटेंट पर तुरंत हटाने और यूजर अकाउंट बैन जैसी कड़ी कार्रवाई लागू करने का फैसला किया है। सरकार ने भी साफ संकेत दिया है कि सोशल मीडिया कंपनियों को अश्लील और गैरकानूनी कंटेंट के खिलाफ त्वरित और ठोस कदम उठाने होंगे, अन्यथा कानूनी कार्रवाई का सामना करना पड़ेगा।

Satyam Tripathi