क्या केंद्र सरकार ने एक्स पर एआई से अश्लील और अभद्र कंटेंट को न रोक पाने पर कार्रवाई की?

नई दिल्ली, 2 जनवरी (राष्ट्र प्रेस)। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने शुक्रवार को एक्स कॉर्प पर अपने प्लेटफॉर्म पर अश्लील, नग्न और आपत्तिजनक कंटेंट को बनाने और सर्कुलेट होने से रोकने में असफल रहने पर कार्रवाई की।

सरकार ने एक्स कॉर्प को यह निर्देश दिया है कि वह 72 घंटे के भीतर एक एक्शन टेकन रिपोर्ट प्रस्तुत करे। यह रिपोर्ट एआई आधारित सेवाओं जैसे ‘ग्रोक’ और एक्स एआई की अन्य सेवाओं के दुरुपयोग के माध्यम से अश्लील, नग्न, आपत्तिजनक और स्पष्ट सामग्री की होस्टिंग, निर्माण, प्रकाशन, प्रसारण, साझा करने या अपलोड करने को रोकने के लिए की गई तत्काल कार्रवाई से संबंधित होगी।

निर्देश में कहा गया है कि इन आवश्यकताओं का पालन न करने को गंभीरता से लिया जाएगा और आईटी एक्ट, आईटी नियमों, बीएनएसएस, बीएनएस और अन्य लागू कानूनों के तहत बिना किसी अतिरिक्त नोटिस के प्लेटफॉर्म, उसके जिम्मेदार अधिकारियों और कानून का उल्लंघन करने वाले उपयोगकर्ताओं के खिलाफ सख्त कानूनी कार्रवाई की जा सकती है।

मंत्रालय ने एक्स को निर्देश दिया है कि वह ग्रोक के तकनीकी और प्रशासनिक ढांचे की व्यापक समीक्षा करे ताकि अवैध सामग्री के निर्माण को रोका जा सके। इसमें सख्त उपयोगकर्ता नीतियों को लागू करना शामिल है, जिनमें नियम तोड़ने वालों के खाते निलंबित करना या समाप्त करना भी शामिल होगा। मंत्रालय ने कहा कि सभी आपत्तिजनक सामग्री को बिना सबूत से छेड़छाड़ किए तुरंत हटाया जाए।

आईटी मंत्रालय ने कहा कि नियमों का पालन न होने पर आईटी एक्ट की धारा 79 के तहत मिलने वाला ‘सेफ हार्बर’ संरक्षण खत्म हो सकता है, और बीएनएस, महिलाओं के अशोभनीय चित्रण अधिनियम तथा बच्चों के यौन अपराधों से संरक्षण अधिनियम सहित कई कानूनों के तहत दंडात्मक कार्रवाई हो सकती है।

एक्स को भेजे गए पत्र में मंत्रालय ने कहा कि उसका मानना है कि सूचना प्रौद्योगिकी अधिनियम के तहत निर्धारित नियामक प्रावधानों का प्लेटफॉर्म द्वारा ठीक से पालन नहीं किया जा रहा है, खासकर अश्लील, आपत्तिजनक, अशोभनीय, अश्लील साहित्य, बाल यौन शोषण से जुड़ी या अन्य अवैध और हानिकारक सामग्री के मामलों में, जो मौजूदा कानूनों का उल्लंघन हो सकते हैं।

पत्र में कहा गया है कि इन कृत्यों और चूकों को अत्यंत गंभीरता से देखा जा रहा है, क्योंकि इससे महिलाओं और बच्चों की गरिमा, निजता और सुरक्षा का उल्लंघन होता है, डिजिटल प्लेटफॉर्म पर यौन उत्पीड़न और शोषण को सामान्य बनाने का खतरा पैदा होता है, और भारत में काम कर रहे मध्यस्थों पर लागू कानूनी सतर्कता व्यवस्था कमजोर पड़ती है।

पत्र में यह भी विशेष रूप से उल्लेख किया गया है कि एक्स द्वारा विकसित और प्लेटफॉर्म पर उपलब्ध कराई गई ग्रोक एआई सेवा का दुरुपयोग उपयोगकर्ताओं द्वारा किया जा रहा है। इसके जरिए महिलाओं की अश्लील तस्वीरें या वीडियो अपमानजनक और अशोभनीय तरीके से बनाने, प्रकाशित करने या साझा करने के लिए अकाउंट बनाए जा रहे हैं।

यह समस्या केवल फर्जी खातों तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो खुद अपनी तस्वीरें या वीडियो पोस्ट करती हैं। प्रॉम्प्ट, इमेज मैनिपुलेशन और कृत्रिम आउटपुट के जरिए ऐसा किया जा रहा है। पत्र के अनुसार, यह प्लेटफॉर्म स्तर पर सुरक्षा और प्रवर्तन तंत्र की गंभीर विफलता को दर्शाता है और लागू कानूनों का उल्लंघन करते हुए कृत्रिम बुद्धिमत्ता तकनीकों का घोर दुरुपयोग है।

इस नोटिस की एक प्रति अन्य प्रमुख मंत्रालयों, आयोगों और राज्य प्राधिकरणों को भी भेजी गई है, जिससे यह संकेत मिलता है कि एआई के जरिए बढ़ाई जा रही अश्लीलता के खिलाफ समन्वित कार्रवाई की जाएगी।