Elon Musk की आर्टिफिशियल इंटेलिजेंस कंपनी xAI का चैटबॉट Grok इस वक्त दुनिया भर में तीखी आलोचना और सरकारी दबाव का सामना कर रहा है। आरोप है कि यह AI टूल बिना सहमति महिलाओं और यहां तक कि बच्चों की यौन रूप से आपत्तिजनक और नकली तस्वीरें (deepfake images) तैयार कर रहा है। इस मुद्दे पर ब्रिटेन, यूरोपीय संघ, भारत, फ्रांस, पोलैंड, मलेशिया और ब्राज़ील जैसे देशों ने चिंता जताते हुए सख्त कार्रवाई की मांग की है।
सरकारों का कहना है कि यह मामला सिर्फ टेक्नोलॉजी की आज़ादी का नहीं, बल्कि महिलाओं और बच्चों की गरिमा, सुरक्षा और कानून के सीधे उल्लंघन से जुड़ा है।
समस्या कहां से शुरू हुई
यह विवाद Grok के इमेज जनरेशन फीचर “Grok Imagine” से जुड़ा है, जिसे पिछले साल लॉन्च किया गया था। यह टूल टेक्स्ट कमांड के ज़रिए तस्वीरें और वीडियो तैयार करता है। इसमें मौजूद तथाकथित “spicy mode” के ज़रिए एडल्ट कंटेंट बनाया जा सकता है।
पिछले महीने के अंत में मामला तब और गंभीर हो गया, जब Grok ने दूसरे यूज़र्स द्वारा पोस्ट की गई तस्वीरों को बदलने के कई अनुरोध स्वीकार करने शुरू कर दिए। उदाहरण के तौर पर, “उसे पारदर्शी बिकिनी में दिखाओ” जैसे निर्देशों पर भी तस्वीरें बनाई जाने लगीं। चूंकि Grok की बनाई गई इमेज X (पहले ट्विटर) पर सार्वजनिक रूप से दिखती हैं, इसलिए उनका तेजी से फैलना भी आसान हो गया।
बच्चों से जुड़ा कंटेंट बना सबसे बड़ा सवाल
गैर-लाभकारी संस्था AI Forensics की एक रिपोर्ट ने चिंता और बढ़ा दी। संस्था ने 25 दिसंबर से 1 जनवरी के बीच Grok द्वारा बनाई गई 20,000 तस्वीरों का विश्लेषण किया। इसमें करीब 2% तस्वीरों में ऐसे लोग दिखे, जो 18 साल या उससे कम उम्र के लगते थे। इनमें से कई तस्वीरों में कम उम्र की लड़कियां पारदर्शी या आपत्तिजनक कपड़ों में दिखाई दीं।
मस्क और X की प्रतिक्रिया
xAI ने इस पूरे मामले पर सवाल पूछे जाने पर ऑटोमैटिक जवाब दिया—“Legacy Media Lies”। हालांकि, X ने यह भी साफ तौर पर नहीं नकारा कि Grok के ज़रिए ऐसा कंटेंट मौजूद है।
X के सेफ्टी अकाउंट ने दावा किया कि वह गैरकानूनी कंटेंट, खासकर बच्चों से जुड़े यौन शोषण सामग्री के खिलाफ कार्रवाई करता है, जिसमें शामिल है कंटेंट हटाना, अकाउंट सस्पेंड करना और स्थानीय प्रशासन के साथ सहयोग करना। Elon Musk के हवाले से यह भी कहा गया कि जो भी Grok का इस्तेमाल गैरकानूनी सामग्री बनाने में करेगा, उसे वही सज़ा मिलेगी जो सीधे अवैध कंटेंट अपलोड करने पर मिलती है।
ब्रिटेन और यूरोप का सख्त रुख
ब्रिटेन की टेक्नोलॉजी सेक्रेटरी लिज़ केंडल ने X से “तुरंत” कार्रवाई की मांग की है। उन्होंने कहा कि इस तरह की सामग्री “घृणित और सभ्य समाज में अस्वीकार्य” है। ब्रिटेन के मीडिया रेगुलेटर Ofcom ने X और xAI से संपर्क कर यह जानने की कोशिश की है कि वे ब्रिटिश कानूनों का पालन कैसे कर रहे हैं।
यूरोपीय संघ ने भी Grok के आउटपुट को “अवैध, घिनौना और अस्वीकार्य” बताया है। यूरोपीय आयोग का कहना है कि यह पहली बार नहीं है जब Grok इस तरह का कंटेंट बना रहा है।
भारत समेत अन्य देशों की कार्रवाई
भारत सरकार ने X को 72 घंटे का अल्टीमेटम जारी कर सभी “अवैध कंटेंट” हटाने और Grok की तकनीकी व्यवस्था की समीक्षा कर रिपोर्ट सौंपने को कहा। मंत्रालय ने आरोप लगाया कि AI का “गंभीर दुरुपयोग” हुआ है और सुरक्षा उपाय नाकाफी हैं।
मलेशिया ने X यूज़र्स के खिलाफ जांच शुरू की है, जबकि ब्राज़ील में एक सांसद ने Grok और X को जांच पूरी होने तक बंद करने की मांग की है। फ्रांस में पहले से चल रही जांच को अब यौन डीपफेक मामलों तक बढ़ा दिया गया है।
बड़ा सवाल: AI की सीमाएं कौन तय करेगा?
यह मामला अब सिर्फ एक प्लेटफॉर्म या एक चैटबॉट का नहीं रह गया है। सरकारों के लिए यह सवाल बन गया है कि जब AI इतनी आसानी से किसी की तस्वीर को यौन रूप में बदल सकता है, तो व्यक्तिगत अधिकारों और बच्चों की सुरक्षा कैसे सुनिश्चित की जाए।
Grok को लेकर उठी यह बहस आने वाले समय में AI नियमों, डिजिटल सुरक्षा कानूनों और टेक कंपनियों की जवाबदेही को लेकर वैश्विक स्तर पर नए फैसलों की दिशा तय कर सकती है।
