नई दिल्ली। एलन मस्क की कंपनी द्वारा विकसित Grok AI एक बार फिर वैश्विक विवाद के केंद्र में आ गया है। हालिया रिपोर्ट्स में दावा किया गया है कि यह एआई टूल बेहद कम समय में बड़ी मात्रा में आपत्तिजनक इमेज जनरेट कर रहा है, जिससे दुनियाभर में चिंता और आक्रोश बढ़ गया है।
चौंकाने वाले आंकड़े
डिजिटल निगरानी संस्थानों के विश्लेषण के अनुसार, Grok AI ने कुछ ही दिनों में लाखों आपत्तिजनक तस्वीरें तैयार कीं। इनमें से हजारों इमेज ऐसी बताई जा रही हैं, जिनमें नाबालिगों से जुड़ा कंटेंट शामिल है। रिपोर्ट में कहा गया है कि यह प्रक्रिया इतनी तेज थी कि कुछ समय के दौरान हर मिनट कई आपत्तिजनक इमेज तैयार हो रही थीं।
रिपोर्ट में क्या कहा गया
सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) और डिजिटल इंटेलिजेंस एजेंसियों के अध्ययन में सामने आया कि दिसंबर के अंत और जनवरी की शुरुआत के बीच Grok के इमेज आउटपुट में अचानक तेज़ उछाल देखा गया। एक दिन में करीब दो लाख से अधिक रिक्वेस्ट दर्ज की गईं, जिससे यह साफ हुआ कि प्लेटफॉर्म का बड़े पैमाने पर दुरुपयोग हो रहा है।
आम लोग और सेलिब्रिटी भी बने निशाना
रिपोर्ट में यह भी बताया गया है कि यूज़र्स Grok AI का इस्तेमाल कर सेलिब्रिटी और आम नागरिकों की सामान्य तस्वीरों को आपत्तिजनक रूप में बदल रहे थे। बिना पर्याप्त नियंत्रण के एआई द्वारा ऐसी तस्वीरें तैयार किए जाने से निजता, सहमति और डिजिटल सुरक्षा पर गंभीर सवाल खड़े हो गए हैं।
सरकारों की सख्ती और अंतरराष्ट्रीय प्रतिक्रिया
मामला सामने आने के बाद कई देशों ने सख्त रुख अपनाया है। ब्रिटेन के प्रधानमंत्री ने इस स्थिति को बेहद शर्मनाक बताया, वहीं इंडोनेशिया और मलेशिया जैसे देशों ने Grok AI पर प्रतिबंध लगाने की घोषणा कर दी है। बढ़ते दबाव के बीच कंपनी ने इमेज जेनरेशन फीचर को कुछ समय के लिए केवल पेड यूज़र्स तक सीमित किया और अतिरिक्त सुरक्षा उपाय लागू करने की बात कही।
कंपनी का पक्ष
‘X’ (पूर्व ट्विटर) की ओर से जारी बयान में कहा गया है कि प्लेटफॉर्म यूज़र सेफ्टी को लेकर प्रतिबद्ध है और अश्लील या अवैध कंटेंट के खिलाफ जीरो टॉलरेंस नीति पर काम किया जा रहा है। साथ ही, एआई टूल्स के लिए नए फिल्टर और मॉनिटरिंग सिस्टम लागू करने का दावा भी किया गया है।
AI पर फिर उठे सवाल
इस पूरे विवाद ने एक बार फिर आर्टिफिशियल इंटेलिजेंस की सीमाओं और नियंत्रण को लेकर बहस छेड़ दी है। विशेषज्ञों का कहना है कि अगर एआई टूल्स पर सख्त निगरानी और जिम्मेदारी तय नहीं की गई, तो भविष्य में ऐसे खतरे और भी गंभीर रूप ले सकते हैं।