नई दिल्ली / रफ्तार डेस्क । कई देशों में विरोध और नियामक कार्रवाई का सामना करने के बाद आखिरकार एलन मस्क के सोशल मीडिया प्लेटफॉर्म X को अपने एआई चैटबॉट Grok पर लगाम लगानी पड़ी है। Grok AI के जरिए अवैध और आपत्तिजनक तस्वीरें बनाए जाने को लेकर सरकारों की ओर से उठाए गए सख्त कदमों का असर अब साफ दिखाई दे रहा है। X ने तकनीकी बदलाव करते हुए Grok द्वारा अश्लील और आपत्तिजनक डीपफेक तस्वीरें बनाने पर रोक लगा दी है।
अब नहीं बनेंगी महिलाओं और बच्चों की आपत्तिजनक तस्वीरें
X ने अपने आधिकारिक सेफ्टी अकाउंट के जरिए जानकारी दी कि Grok अब वास्तविक लोगों की तस्वीरों को बिकनी, अंत:वस्त्र या इसी तरह के आपत्तिजनक कपड़ों में जनरेट या एडिट नहीं कर पाएगा। यह प्रतिबंध उन सभी क्षेत्रों में लागू किया गया है, जहां इस तरह की सामग्री अवैध है। कंपनी का कहना है कि इस कदम से प्लेटफॉर्म की सुरक्षा और जवाबदेही दोनों मजबूत होंगी।
पेड और फ्री यूजर्स सब पर लागू होगा बैन
X ने साफ किया है कि यह बैन केवल फ्री यूजर्स तक सीमित नहीं है, बल्कि पेड सब्सक्राइबर्स पर भी समान रूप से लागू होगा। हालांकि, Grok अकाउंट के जरिए इमेज जनरेशन और एडिटिंग की सुविधा अब केवल पेड सब्सक्राइबर्स के लिए ही उपलब्ध रहेगी, लेकिन वह भी प्लेटफॉर्म की सख्त नीतियों के दायरे में होगी। कंपनी ने दोहराया कि सभी एआई प्रॉम्प्ट और जनरेटेड कंटेंट को X के मौजूदा सुरक्षा नियमों का पालन करना अनिवार्य होगा।
भारत सरकार को दिया भरोसा
X ने भारत सरकार और अधिकारियों को आश्वासन दिया है कि वह भारतीय कानूनों का पूरी तरह पालन करेगा। भारत समेत दुनिया के कई देशों में Grok द्वारा बनाई जा रही बिना सहमति वाली यौन आपत्तिजनक डीपफेक तस्वीरों को लेकर चिंता जताई गई थी। X ने कहा कि उसका सुरक्षा दल 24 घंटे काम कर रहा है ताकि अवैध और नियमों का उल्लंघन करने वाली सामग्री को तुरंत हटाया जा सके, जरूरत पड़ने पर अकाउंट्स को स्थायी रूप से सस्पेंड किया जा सके और कानून प्रवर्तन एजेंसियों के साथ सहयोग किया जा सके।
बाल यौन शोषण पर जीरो टॉलरेंस
X ने स्पष्ट किया कि बाल यौन शोषण, बिना सहमति की न्यूडिटी और अवांछित यौन सामग्री के प्रति उसकी नीति ‘जीरो टॉलरेंस’ की है। कंपनी ने कहा कि ऐसे मामलों में संबंधित खातों की जानकारी कानून प्रवर्तन एजेंसियों को भी दी जाती है।
आईटी मिनिस्ट्री की फटकार बनी वजह
गौरतलब है कि 2 जनवरी को भारत की आईटी मिनिस्ट्री ने X को फटकार लगाते हुए निर्देश दिया था कि Grok से बनाई गई सभी अश्लील, आपत्तिजनक और गैरकानूनी सामग्री को तुरंत हटाया जाए, अन्यथा कानूनी कार्रवाई की जाएगी। भारत के अलावा ब्रिटेन और यूरोपीय संघ ने भी Grok डीपफेक तस्वीरों को लेकर गंभीर सवाल उठाए थे। बढ़ते दबाव के बीच X का यह कदम जनरेटिव एआई पर नियंत्रण की दिशा में एक बड़ा फैसला माना जा रहा है।
