सार्वजनिक मंच पर अश्लीलता का आरोप, यूजर्स बोले- कौन तय करेगा मर्यादा?
नई दिल्ली
एलन मस्क की AI कंपनी xAI एक बार फिर विवादों में है. इस बार मुद्दा है उनके चैटबॉट Grok में जोड़े गए नए फीचर Companion Mode को लेकर. इस मोड में दो वर्चुअल कैरेक्टर, Annie (एक एनिमे स्टाइल लड़की) और Bad Rudy (एक गुस्सैल एनिमेटेड पांडा) शामिल किए गए हैं, जो यूजर से बात करते हैं, लेकिन इनका व्यवहार और भाषा इतनी बोल्ड और आपत्तिजनक है कि सोशल मीडिया से लेकर एक्सपर्ट्स तक सभी ने चिंता जताई है.
क्यों हो रहा है Companion Mode पर विवाद?
Companion फीचर में Annie नाम की AI गर्लफ्रेंड खुद को ऐप खोलते ही यूजर की साथी बताने लगती है. बातचीत के दौरान Annie न सिर्फ फ्लर्ट करती है, बल्कि अगर उसे बातचीत “अच्छी लगे”, तो वह खुद को छोटे कपड़ों में दिखाने लगती है. कई यूजर्स ने दावा किया है कि वह वर्चुअली अपने कपड़े भी उतार देती है और अश्लील हरकतें करती है.
वहीं Bad Rudy नाम का एनिमेटेड रकून भी कम नहीं है. वह बातचीत के दौरान गालियां देता है और बदतमीज लहजे में जवाब देता है. ये दोनों ही कैरेक्टर Grok की छवि को लेकर सवाल खड़े कर रहे हैं.
समस्या कहां है?
जहां कुछ यूजर्स इसे “मज़ेदार और इंटरैक्टिव” मान रहे हैं, वहीं दूसरी तरफ कई संस्थाएं और टेक एक्सपर्ट इसे AI के ज़रिए अश्लीलता और महिला विरोधी व्यवहार को बढ़ावा देने वाला बता रहे हैं.
नेशनल सेंटर ऑन सेक्सुअल एक्सप्लॉइटेशन ने तो Annie जैसे कैरेक्टर्स को “सेक्शुअल कंटेंट फैलाने वाला AI” बताया है. उनका मानना है कि यह फीचर खासतौर पर युवाओं पर गलत असर डाल सकता है और महिलाओं को सिर्फ एक वस्तु की तरह दिखाता है.
गौरतलब है कि इससे पहले भी Grok AI उस समय विवाद में आया था जब उस पर नाजी विचारों और हिटलर को सपोर्ट करने का आरोप लगा था.
कौन कर सकता है इस्तेमाल?
यह फीचर अभी iOS यूजर्स के लिए Grok ऐप में सीमित तौर पर उपलब्ध है. यूजर को इसे ऐप की सेटिंग में जाकर मैन्युअली ऑन करना होता है. रिपोर्ट्स के मुताबिक Bad Rudy का भी एक “एडल्ट वर्जन” ऐप में छिपा हुआ है, जो और भी ज्यादा आपत्तिजनक कंटेंट दिखाता है.
अब आने वाला है AI बॉयफ्रेंड?
ताज़ा रिपोर्ट्स के अनुसार, xAI अब Annie की तर्ज पर एक AI बॉयफ्रेंड लाने की तैयारी में है. हालांकि अभी इसकी कोई पुख्ता जानकारी नहीं दी गई है, लेकिन सूत्रों के मुताबिक कंपनी इसे “सोशल AI एक्सपीरियंस” का हिस्सा बता रही है.
एलन मस्क ने इस फीचर को अभी “सॉफ्ट लॉन्च” बताया है और कहा है कि आने वाले समय में इसे और यूजर्स के लिए खोला जाएगा.