Grok obscene AI content: Govt asks X to submit report by January 7 : सोशल मीडिया प्लेटफॉर्म एक्स (X) पर मौजूद AI टूल ‘Grok’ के जरिए आपत्तिजनक और अश्लील कंटेंट बनाकर शेयर किए जाने के मामले सामने आने के बाद केंद्र सरकार ने कड़ा रुख अपनाया है. सरकार ने एलन मस्क की अगुवाई वाली इस कंपनी को इस मामले में जरूरी कार्रवाई करके डिटेल ‘एक्शन टेकन रिपोर्ट’ जमा करने के लिए 7 जनवरी तक का समय दिया है. इससे पहले आईटी मंत्रालय ने एक्स को चेतावनी दी थी कि अगर ऐसे कंटेंट को फौरन हटाया नहीं गया, तो कानूनी कार्रवाई की जाएगी.
अश्लील AI कंटेंट से भारत सरकार खफा
पीटीआई की रिपोर्ट में सूत्रों के हवाले से कहा गया है कि आईटी मंत्रालय ने एलन मस्क (Elon Musk) के सोशल मीडिया प्लेटफॉर्म एक्स (X) को 2 जनवरी को भेजे पत्र में कहा था कि कई यूजर्स Grok AI का गलत इस्तेमाल करके फर्जी अकाउंट बना रहे हैं और महिलाओं की तस्वीरों व वीडियो को अश्लील और अपमानजनक तरीके से तैयार कर शेयर किया जा रहा है. मंत्रालय ने कहा है कि, “यह सिर्फ फर्जी अकाउंट तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है, जो खुद अपनी तस्वीरें या वीडियो पोस्ट करती हैं. AI प्रॉम्प्ट, इमेज मैनिपुलेशन और सिंथेटिक आउटपुट के जरिए ऐसा किया जा रहा है.” मंत्रालय के अनुसार, यह प्लेटफॉर्म स्तर पर सुरक्षा और निगरानी में गंभीर चूक को दिखाता है.
आईटी कानून के उल्लंघन का मामला
सरकार का कहना है कि एक्स पर आर्टिफीशियल इंटेलिजेंस (Artificial Intelligence) टूल ग्रोक (Grok) की मदद से अश्लील, फूहड़, पोर्नोग्राफिक और बच्चों से जुड़े आपत्तिजनक कंटेंट बनाकर शेयर किए जा रहे हैं, जो आईटी एक्ट और नियमों के खिलाफ है. मंत्रालय ने कहा है कि इससे “महिलाओं और बच्चों की गरिमा, निजता और सुरक्षा का उल्लंघन होता है और डिजिटल स्पेस में यौन उत्पीड़न को बढ़ावा मिलता है.” इसी संदर्भ में मंत्रालय ने 29 दिसंबर 2025 को जारी अपनी एडवाइजरी का भी जिक्र किया है, जिसमें सभी प्लेटफॉर्म्स को अपनी कंटेंट मॉडरेशन व्यवस्था की तुरंत समीक्षा करने को कहा गया था.
नियमों का सख्ती से पालन जरूरी
सरकार ने एक्स को साफ तौर पर चेताया है कि आईटी एक्ट के सेक्शन 79 के तहत मिलने वाली सेफ हार्बर यानी कानूनी छूट तभी मिलेगी, जब नियमों का सख्ती से पालन किया जाए. मंत्रालय ने कहा, “आपको सलाह दी जाती है कि किसी भी तरह का अश्लील, सेक्सुअली एक्सप्लीसिट या गैरकानूनी कंटेंट प्लेटफॉर्म पर होस्ट या शेयर न किया जाए.” नियमों की अनदेखी होने पर यह छूट खत्म हो सकती है और आईटी एक्ट और भारतीय न्याय संहिता के तहत कार्रवाई की जा सकती है.
Grok की तकनीकी जांच के निर्देश
आईटी मंत्रालय ने एक्स को Grok AI की पूरी तकनीकी और प्रशासनिक समीक्षा करने को कहा है. इसमें प्रॉम्प्ट प्रोसेसिंग, AI से बनने वाले जवाब, इमेज हैंडलिंग और सेफ्टी गार्डरेल्स शामिल हैं, ताकि यह पक्का किया जा सके कि किसी भी रूप में अश्लील या गैरकानूनी कंटेंट न बने.
एक्स का क्या कहना है
एक्स के सेफ्टी हैंडल पर जारी एक पोस्ट में कहा गया है, “हम गैरकानूनी कंटेंट के खिलाफ कार्रवाई करेंगे, ऐसे कंटेंट को हटाया जाएगा और इसे अपलोड करने वाले अकाउंट्स को स्थायी रूप से सस्पेंड किया जाएगा. जरूरत पड़ने पर स्थानीय सरकारों के साथ भी सहयोग किया जाएगा.” एक्स ने यह भी स्पष्ट किया है कि जो लोग Grok का इस्तेमाल कर गैरकानूनी कंटेंट बनवाएंगे, उनके खिलाफ भी वही कार्रवाई होगी.
