क्या एलन मस्क की कंपनी एक्स को वैश्विक विरोध के बाद ग्रोक का आपत्तिजनक इमेज बनाने वाला फीचर बंद करना पड़ा?

नई दिल्ली, 15 जनवरी (राष्ट्र प्रेस)। एलन मस्क द्वारा संचालित सोशल मीडिया प्लेटफॉर्म एक्स ने गुरुवार को अपने एआई चैटबॉट ग्रोक के विवादास्पद तस्वीर बनाने वाले फीचर को बंद करने का निर्णय लिया है। यह कदम दुनियाभर में उठ रहे गंभीर विरोध के चलते उठाया गया है।

अब ग्रोक किसी भी स्थिति में महिलाओं की अश्लील या आपत्तिजनक तस्वीरें नहीं बना सकेगा, भले ही यूजर्स का अकाउंट प्रीमियम हो।

एक्स के सेफ्टी अकाउंट ने बताया कि तकनीकी बदलाव किए गए हैं, जिससे ग्रोक असली लोगों की तस्वीरों को बिकिनी या अन्य अशोभनीय कपड़ों में एडिट नहीं कर सकेगा। यह नियम सभी यूजर्स पर लागू होगा, जिसमें पेड यूजर्स भी शामिल हैं।

ग्रोक के 'स्पाइसी मोड' फीचर को लेकर कई देशों में गुस्सा देखा गया, जिसके जरिए लोग महिलाओं और बच्चों की अश्लील डीपफेक तस्वीरें बना सकते थे। इससे कई देशों ने ग्रोक को ब्लॉक करने या इसकी जांच शुरू करने का निर्णय लिया।

भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने एक्सएआई से इस मामले में की गई कार्रवाई की रिपोर्ट मांगी थी। वहीं, अमेरिका के कैलिफोर्निया राज्य के अटॉर्नी जनरल ने भी ग्रोक के डेवलपर के खिलाफ जांच शुरू की है।

इसके अलावा, 28 सामाजिक संगठनों के समूह ने एप्पल और गूगल के सीईओ को पत्र लिखकर मांग की कि ग्रोक और एक्स ऐप को उनके ऐप स्टोर से हटाया जाए।

अब एक्स ने तस्वीर बनाने और उन्हें एडिट करने की सुविधा को केवल पेड सब्सक्राइबर्स तक सीमित कर दिया है। पहले यह सुविधा केवल प्रीमियम यूजर्स के लिए थी, लेकिन अब इसे सख्त किया गया है।

एक्स ने कहा कि इससे एक अतिरिक्त सुरक्षा परत जुड़ती है, जिससे यदि कोई व्यक्ति कानून या नियमों का उल्लंघन करता है, तो उसके खिलाफ कार्रवाई की जा सके।

प्लेटफॉर्म ने यह भी कहा कि बाल यौन शोषण सामग्री (सीएसएएम) और बिना अनुमति की नग्न तस्वीरों जैसे गंभीर नियम उल्लंघन वाले कंटेंट को तुरंत हटाया जाएगा। ऐसे नियम तोड़ने वाले अकाउंट्स पर सख्त कार्रवाई की जाएगी।

दिसंबर में इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने एक्स को निर्देश दिया था कि कानून के खिलाफ पहले से मौजूद सभी आपत्तिजनक कंटेंट को तुरंत हटाया जाए।

मंत्रालय ने यह भी कहा था कि एक्स को नियमों को सख्ती से लागू करना होगा और ऐसे अकाउंट्स को निलंबित या बंद करना होगा, जिन्होंने ग्रोक का इस्तेमाल करके महिलाओं और बच्चों की अश्लील तस्वीरें बनाई हैं।

रिपोर्ट्स के अनुसार, भारत में एक्स ने ग्रोक की मदद से बनाई गई करीब 3,500 अश्लील तस्वीरें हटाईं और लगभग 600 यूजर्स को प्रतिबंधित किया, जिन्होंने इस एआई चैटबॉट का गलत इस्तेमाल किया था।