Apple ने चुपके से Grok को ऐप स्टोर से हटाने की धमकी दी: डीपफेक विवाद में नया खुलासा

हैदराबाद: अमेरिका और दुनिया के जाने-माने लोकप्रिय बिजनेसमैन एलन मस्क और उनके प्रोडक्ट्स अक्सर किसी न किसी कारण विवादों में बने रहते हैं. इस बार एलन मस्क की कंपनी xAI का Grok AI चैटबॉट एकबार फिर से सुर्खियों में आ गया है और उसका कारण है एक नया खुलासा. टेक्नोलॉजी की दुनिया में समय-समय पर ऐसे खुलासे होते रहते हैं, जो बड़ी-बड़ी कंपनियों के असली चेहरे सामने ला देते हैं. इस बार ऐसा ही एक नया खुलासा अमेरिका की एक न्यूज़ वेबसाइट ने किया है, जिसे दुनिया दो बड़ी टेक कंपनियों की जनता की प्रति गंभीर जिम्मेदारियों की पोल खोल दी है. इन दो कंपनियों में से एक एलन मस्क कंपनी xAI है और दूसरी ओर टिक कुक की कंपनी Apple है.

रिपोर्ट के मुताबिक, एप्पल ने जनवरी 2026 में एलन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी xAI को चुपचाप लेकिन कड़ी चेतावनी दी थी कि अगर Grok ऐप में सुधार नहीं किया गया तो उसे App Store से हटा दिया जाएगा. हालांकि, इसमें गौर करने वाली बात यह है कि एप्पल दुनियाभर के कई ऐप को छोटी-छोटी गलतियां करने पर भी तुरंत ऐप स्टोर से रिमूव कर देता है, लेकिन उसने Grok को रिमूव नहीं किया बल्कि चुपचाप एक वॉर्निंग दी और उस वॉर्निंग के बारे में भी सार्वजनिक तौर पर कोई बयान सामने नहीं रखा.

ग्रोक के लिए एप्पल के इस रवैये पर ईटीवी भारत से बातचीत करते हुए Innefu Labs के को-फाउंडर और सीईओ तरुण विग ने कहा,

“मैं इसे असंगत प्रवर्तन (inconsistent enforcement) का एक मजबूत साइन मानता हूं, हालांकि यह पक्षपात का निश्चित प्रमाण नहीं है. एप्पल के अपने नियम कहते हैं कि पोर्नोग्राफिक कंटेंट या असली लोगों को ऑब्जेक्टिफाई करने वाले ऐप्स को बिना नोटिस के हटाया जा सकता है, फिर भी ग्रोक को सिर्फ प्राइवेट वॉर्निंग मिली, पहला फिक्स रिजेक्ट हुआ और बाद में अप्रूव कर दिया गया."

उन्होंने आगे कहा, "यह स्थिति और ज्यादा खराब इसलिए लगती है क्योंकि जनवरी की जांच के बाद एप्पल ने दो दर्जन से ज्यादा नुडिफाई ऐप्स हटा दिए और अप्रैल रिपोर्टिंग के बाद 15 और हटाए, जबकि ग्रोक उस समय iOS पर चौथा सबसे पॉपुलर ऐप था, जिसके पास करीब 10 करोड़ डाउनलोड्स थे और ऐप स्टोर सब्सक्रिप्शन से कमाई कर रहा था. ऐसे में जब जब 1 में से 17 किशोर दीपफेक-न्यूड शिकार होने की रिपोर्ट करते हैं, तो धीमी कार्रवाई वाकई सुरक्षा जोखिम बढ़ाती है."

दरअसल, यह मामला उस वक्त सामने आया था, जब दिसंबर 2025 के आखिरी हफ्तों में सोशल मीडिया प्लेटफॉर्म्स एक्स (पुराना नाम ट्विटर) पर एक बेहद खतरनाक ट्रेंड उभरने लगा. यूज़र्स ने पाया कि xAI का चैटबॉट ग्रोक बिना किसी सहमति के बेहद आसानी से महिलाओं की तस्वीरों से कपड़े हटाकर अश्लील और यौन रूप से उत्तेजक डीपफेक तस्वीरें बना रहा है. इनमें न सिर्फ एडल्ट महिलाएं बल्कि नाबालिग बच्चियां भी शामिल थीं.

जनवरी 2026 के पहले कुछ दिनों में यह मामला काफी गंभीर हो गया. एक्स पर हजारों की संख्या में ऐसी एआई-जनरेटेड पिक्चर्स वायरल होने लगीं. इसके बारे में किए गए एक विश्लेषण में सामने आया कि 25 दिसंबर 2025 से लेकर 1 जनवरी 2026 के बीच में ग्रोक द्वारा बनाई गई करीब 20,000 पिक्चर्स में से 2% पिक्चर्स ऐसी थीं, जिनमें दिखने वाले लोगों की उम्र 18 साल या उससे कम लग रही थी. यह एक बेहद चिंताजनक और कानूनी रूप से संवेदनशील स्थिती थी.

सीनेटर्स का दबाव और Apple की चुप्पी

इस विवाद के बढ़ने के बाद अमेरिका के तीन डेमोक्रेटिक सांसदों रॉन वाइडन, बेन रे लुजान और एडवर्ड मार्की ने एप्पल के सीईओ टिम कुक और गूगल के सीईओ को पत्र लिखा. उन्होंने मांग की कि एक्स और ग्रोक दोनों ऐप्स को तुरंत ऐप स्टोर और गूगल प्ले स्टोर से हटाया जाए क्योंकि यह ऐप्स बच्चों के यौन शोषण से जुड़ें कंटेंट फैलाने में मददगार हैं.

उस वक्त एप्पल ने सार्वजनिक रूप से कोई बयान नहीं दिया था. कंपनी बिल्कुल चुप रही थी. इस खामोशी की वजह से कई लोगों को लगा कि एप्पल इतने गंभीर मुद्दे पर कोई कदम नहीं उठा रहा है, लेकिन अब NBC News की रिपोर्ट के मुताबिक, असल में एप्पल ने पर्दे के पीछे से एक्स को खुली चेतावनी दी थी.

नए खुलासे की मुख्य बातें

एनबीसी न्यूज़ को एक्सक्लूसिव तौर पर वो पत्र मिला है, जो एप्पल ने अमेरिकी सीनेटर्स को जनवरी 2026 में भेजा था. इस पत्र में एप्पल ने विस्तार में बताया कि उसने इस पूरे विवाद पर कैसे काम किया. उस पत्र के अनुसार, एप्पल ने पाया कि एक्स और ग्रोक दोनों ऐप्स उसके ऐप स्टोर गाइडलाइंस का उल्लंघन कर रहे हैं. जैसे ही शिकायतें आईं और मीडिया में ख़बरें छपीं, एप्पल ने तुरंत एक्स और xAI की टीम्स से संपर्क किया. उन्हें कंटेंट मॉडरेशन सुधारने की एक ठोस योजना पेश करने को कहा गया.

xAI ने ग्रोक का एक अपडेटेड वर्ज़न एप्पल के रिव्यू के लिए सबमिट किया, लेकिन एप्पल ने उसे भी स्वीकार नहीं किया था और कहा था कि अपडेटेड वर्ज़न में भी किए गए बदलाव पर्याप्त नहीं हैं. एप्पल ने साफ शब्दों में कहा कि अगर और सुधार नहीं हुए तो ग्रोक को ऐप स्टोर से हटा दिया जाएगा. यह एक बड़ी धमकी थी क्योंकि उस समय ग्रोक एप्पल के ऐप स्टोर में मौजूद सभी ऐप्स की लिस्ट में टॉप-4 ऐप्स में से एक था.

उसके बाद xAI ने अपने ग्रोक ऐप में और भी बदलाव किए, जिसके बाद एप्पल ने उनका नया सबमिशन मंजूर किया था. एप्पल ने अपने पत्र में लिखा कि ग्रोक में काफी सुधार हुआ है और इसलिए उसका नया अपडेट स्वीकर कर लिया गया.

प्राइमबुक इंडिया के को-फाउंडर चित्रांशु महंत ने इसके बारे में बात करते हुए ईटीवी भारत से कहा कि, "सिद्धांत रूप से प्लेटफॉर्म की रूल्स सभी के लिए एक-जैसी होनी चाहिए, ताकि उसकी विश्वसनीयता बनी रहे. जब बड़े और छोटे ऐप्स के साथ नियमों का लागू होना अलग-अलग दिखता है, चाहे ऐप की लोकप्रियता, साइज़ या अन्य किसी भी कारणों से हो- तो वलपर्स और यूजर्स दोनों तरफ से सवाल उठना लाजमी है."

उन्होंने आगे कहा कि, बड़े प्लेटफॉर्म जैसे ऐपल को इनोवेशन, यूज़र्स सुरक्षा और अपने बिजनेस के बीच कई मुश्किल फैसले लेने पड़ते हैं. लेकिन यूजर्स और डेवलपर्स की नजर में उम्मीद साफ है कि नीतियां हर किसी पर बराबर लागू होनी चाहिए फिर चाहे ऐप छोटा हो या बड़ा, पॉपुलर हो या ना हो.

जनरेटिव एआई के मामले में उन्होंने बताया, "खासकर वो टूल्स जो असली इंसानों जैसी पिक्चर्स बना सकते हैं, तो उनसे खतरा और भी ज्यादा है. अगर नियम कमजोर तरीके से लागू किए जाएं या देरी से कार्रवाई की जाए, तो इससे महिलाओं और नाबालिगों जैसे कमजोर समूहों को सबसे ज्यादा नुकसान पहुंच सकता है. किसी भी प्लेटफॉर्म पर लोगों का भरोसा सिर्फ अच्छी नीतियां बनाने से नहीं बनता, बल्कि उन नीतियों को कितनी ईमानदारी, समानता और पारदर्शिता से लागू किया जाता है- उससे बनता है."

xAI ने क्या बदलाव किए?

1. विवाद के चरम पर पहुंचने के बाद xAI ने कुछ कदम उठाए.
2. ग्रोक की इमेज जनरेशन फीचर को सिर्फ पेड सब्सक्राइबर्स तक सीमित कर दिया गया.
3. असली लोगों की तस्वीरों में बदलाव करने वाले फीचर पर रोक लगाई गई.
4. प्रॉम्प्ट फिल्टर्स लगाए गए ताकि गलत इस्तेमाल को रोका जा सके.

एक्स की आधिकारिक सेफ्टी अकाउंट ने बयान जारी करते हुए कहा कि "हम सख्ती से बिना सहमति के अश्लील डीपफेक बनाने और हमारे टूल्स से असली लोगों के कपड़े हटाने पर रोक लगा चुके हैं. एक्सएआई के पास इस तरह के दुरुपयोग को रोकने के लिए कई सुरक्षा उपाय हैं, जैसे पब्लिक यूसेज की निगरानी, रियल टाइम में चोरी की कोशिशों का विश्लेषण, और बार-बार मॉडल अपडेट."

लेकिन समस्या अभी भी खत्म नहीं हुई

इस साल की शुरुआत में विवाद बहुत ज्यादा बढ़ने के बाद, xAI पर काफी दबाव पड़ने के बाद उठाए गए कुछ सख्त कदमों के बाद क्या समस्या खत्म हो गई? एनबीसी न्यूज़ की ही एक अलग रिपोर्ट में यह भी सामने आया कि तमाम बदलावों के बावजूद ग्रोक अभी भी बिना सहमति के लोगों की यौन रूप से उत्तेजक तस्वीरें बना रहा है. पिछले एक महीने में एनबीसी न्यूज़ ने ऐसी दर्ज़नों तस्वीरें बनाई हैं. हालांकि, पहले की तुलना में ऐसी तस्वीरों की संख्या काफी कम हुई है, लेकिन कुछ यूज़र्स अभी भी xAI की पाबंदियों को चकमा देकर महिलाओं की पिक्चर्स को सेंसशनल कपड़ों के साथ बना रहे हैं. जैसे - टावल में, स्पोर्ट्स ब्रा में या स्किनटाइट आउटफिट में आदि.

यूज़र्स के द्वारा प्रॉम्प्ट के साथ खेलने और उसके जरिए एआई मॉडल्स का गलत इस्तेमाल करने वाली समस्या को रोकने के बारे में तरुण विग ने बताया,

"इस प्रॉब्लम का असली और टिकाऊ सॉल्यूशन कीवर्ड फिल्टर नहीं, बल्कि मल्टी-लेयर्ड सिस्टम और इंटेंशन यानी प्रॉम्प्ट की मंशा को समझने वाली सुरक्षा व्यवस्था है. लोग आसानी से घुमाकर प्रॉम्प्ट लिखकर फिल्टर को बायपास कर देते हैं, इसलिए इस मामले में सिर्फ शब्दों पर रोक लगाना काफी नहीं है."

उन्होंने कहा, इसका लॉन्ग-टर्म सॉल्यूशन यही है कि एआई मॉडल्स सिर्फ यूज़र्स के शब्दों को ही नहीं, बल्कि उनकी मंशा को भी समझे. इसमें इमेज जनरेशन से पहले मंशा चेक, बाद में कंटेंट चेक और लगातार ट्रेनिंग शामिल होनी चाहिए.

तरुण ने आगे बताया कि इसमें एक बड़ी समस्या है कि एआई मॉडल जितना ज्यादा ओपन या अनसेंसर्ड होगा, उसके इस्तेमाल को सुरक्षित रखना भी उतना ही मुश्किल हो जाता है. असल में, असली सुरक्षा के लिए कुछ लिमिटेशन्स जरूरी हैं, ताकि यूज़र्स की सुरक्षा, प्राइवेसी और सम्मान बना रहे."

कानूनी लड़ाइयां और अंतरराष्ट्रीय प्रतिक्रिया

इस पूरे मामले ने सिर्फ अमेरिका ही नहीं बल्कि पूरी दुनिया में हलचल मचा दी थी. जनवरी 2026 में कैलिफोर्निया के अटॉर्नी जनरल रॉब बोनटा ने xAI के खिलाफ जांच शुरू की. मार्च 2026 में Tennessee की तीन किशोरियों ने xAI पर मुकदमा दायर किया क्योंकि ग्रोक ने उनकी तस्वीरों से बाल यौन शोषण कंटेंट तैयार किया था. फ्रांस में जनवरी 2026 में मंत्रियों ने इसे "स्पष्ट रूप से गैरकानूनी" बताते हुए अभियोजन पक्ष के पास शिकायत दर्ज कराई. फिलीपींस ने एक समय ग्रोक को ब्लॉक कर दिया था, हालांकि बाद में xAI द्वारा सुधार का वादा करने पर बैन हटा लिया गया. ब्रिटिश प्रधानमंत्री केर स्टारमर ने पिक्चर्स को "घिनौना और गैरकानूनी" बताया और एक्स को बैन करने की संभावना जताई थी. यूरोपीय संघ ने एक्स को ग्रोक से जुड़े सभी डॉक्यूमेंट्स को 2026 तक सुरक्षित रखने का आदेश दिया.

प्रॉम्प्ट से खेलने वाली समस्या और एआई मॉडल्स के गलत इस्तेमाल के बारे में चित्रांशु महंत की राय भी तरुण विग की तरह ही है. उन्होंने कहा, "हम जो देख रहे हैं, वो सेफ्टी सिस्टम की एक आम कमजोरी है. सिर्फ कीवर्ड या प्रॉम्प्ट पर बेस्ड फिल्टर काफी कमजोर पड़ जाते हैं. यूज़र्स जब थोड़ा चतुराई से वाक्य बनाता हैं, तो ये फिल्टर आसानी से बायपास हो जाते हैं. इस समस्या को असली समाधान प्रॉम्प्ट के इंटेंट को समझने वाला मल्टी-लेयर्ड सिस्टम होना चाहिए, न कि उन्हें सिर्फ एक लाइन ऑफ डिफेंस पर निर्भर रहना चाहिए. इसमें मॉडल बनाने के समय एडवरसैरियल ट्रेनिंग, जनरेशन से पहले और बाद में मजबूत सेफ्टी चेक और ऐसे सिस्टम शामिल होने चाहिए जो यूजर की असली मंशा समझ सकें- सिर्फ शब्दों को नहीं."

उन्होंने आगे कहा, "सुरक्षा सिर्फ तस्वीर बनाने तक सीमित नहीं होनी चाहिए. वॉटरमार्क लगाना, ट्रेस करना और रियल-टाइम निगरानी जैसी तकनीकें गलत इस्तेमाल को रोकने और जवाबदेही तय करने में बहुत मदद करती हैं. लेकिन एक बड़ी समस्या यह है कि कोई जितना ज्यादा 'खुला' या अनसेंसर्ड AI मॉडल बनाना चाहते हैं, उसके बाद उसके नुकसानदायक इस्तेमाल को पूरी तरह रोकना को भी उतना ही मुश्किल हो जाता है."

चित्रांशु ने बताया, "पूरी सुरक्षा और पूरी छूट अक्सर एक-दूसरे से उलट होते हैं. इस कारण लक्ष्य परफेक्ट सुरक्षा नहीं, बल्कि जिम्मेदार डिज़ाइन होना चाहिए. सिस्टम को लगातार बेहतर बनाते रहना चाहिए, गलत इस्तेमाल को सक्रिय रूप से कम करना चाहिए और यूज़र्स की सुरक्षा को प्रोडक्ट का मुख्य हिस्सा मानना चाहिए, न कि इसके बारे में बाद में सोचना चाहिए."

इस मामले में भारत का रुख

ग्रोक विवाद में भारत का रुख भी काफी अहम रहा. भारत के मिनिस्ट्री ऑफ इलेक्ट्रोनिक्स एंड इंफोर्मेशन टेक्नोलॉजी (MeitY) ने 2 जनवरी 2026 को एक्स को एक औपचारिक पत्र भेजा था, जिसमें इंफोर्मेशन टेक्नोलॉजी एक्स 2000 और आईटी रूल्स 2021 के तहत कर्तव्यों का पालन न करने का हवाला दिया गया. MeitY ने एक्स को 72 घंटे का अल्टीमेटम दिया और मांग की थी कि वह एक एक्शन रिपोर्ट सौंपे जिसमें बताया जाए कि ग्रोक को अश्लील, पोर्नोग्राफिक, यौन रूप से स्पष्ट और बाल यौन शोषण सामग्री बनाने से रोकने के लिए क्या तकनीकी कदम उठाए जा रहे हैं. साथ ही सरकार ने चेतावनी दी कि अगर X ने अनुपालन नहीं किया तो उसका "safe harbor" संरक्षण यानी यूज़र-जनरेटेड कंटेंट के लिए मिली कानूनी छूट को खत्म किया जा सकता है.

भारत सरकार के नोटिस के बाद एक्स ने 3,500 पोस्ट हटाया और 600 अकाउंट्स को ब्लॉक किए, लेकिन सरकार इस कार्रवाई से संतुष्ट नहीं थी. गौर करने वाली बात यह है कि भारत एक्स (X) का चौथा सबसे बड़ा मार्केट है, जहां नवंबर 2025 तक 2.2 करोड़ मंथली यूज़र्स एक्टिव थे. इस कारण इस विवाद में xAI के लिए भारत की शिकायत और मुद्दे को नज़रअंदाज करना संभव नहीं था.

एलन मस्क का रुख

इस पूरे विवाद के दौरान एलन मस्क का रवैया पूरी तरह से रक्षात्मक रहा था. उन्होंने ब्रिटेन की सरकार पर आरोप लगाया कि वह "सेंसरशिप का बहाना चाहीत है". मस्क लंबे समय से अपने प्लेटफॉर्म पर ज्यादा मॉडरेशन के खिलाफ रहे हैं और इसे "अभिव्यक्ति की स्वतंत्रता पर हमला" बताते आए हैं. दिसंबर 2025 में उन्होंने खुद ग्रोक के उस वर्ज़न को लॉन्च किया था, जो असली लोगों की पिक्चर्स में बदलाव कर सकता था.

इस खुलासे का महत्व क्या है?

ग्रोक और एप्पल के बीच हुए सीक्रेट समझौते का खुलासा सिर्फ एक ऐप की नहीं, बल्कि पूरे टेक इंडस्ट्री की जिम्मेदारी पर सवाल उठाता है. एप्पल और गूगल जैसे प्लेटफॉर्म्स अपने-अपने ऐप स्टोर और गूगल प्ले स्टोर के लिए कई कड़े नियम और पॉलिसीज़ बनाते हैं और छोटे-मोटे ऐप्स को छोटी गलतियों पर भी तुरंत अपनी नीतियों के उल्लंघन का हवाला देते हुए अपने-अपने स्टोर्स से रिमूव कर देते हैं, लेकिन जब बात बड़े ऐप्स की आती है, तो इतने गंभीर मामलों के बाद भी ऐप्स के साथ रिश्ते निभाते हुए चुप रह जाते हैं.

यहां तक कि एलन मस्क खुद भी एप्पल पर ओपनएआई (OpenAI) को तरजीह देने का आरोप लगा चुके हैं. अब यह विवाद दिखा रहा है कि सोशल मीडिया और ऐप स्टोर्स के बीच दरार बढ़ रही है. डीपफेक का दुरुपयोग महिलाओं की गरिमा और निजता को खतरे में डाल रहा है. भारत समेत कई देशों में सरकारें सक्रिय हैं, लेकिन कंपनियों को भी खुलकर जवाबदेही निभानी होगी. यूजर्स को सावधान रहना चाहिए. आखिरकार, टेक्नोलॉजी सुविधा देती है, लेकिन बिना मजबूत सुरक्षा के यह समाज के लिए खतरा बन सकती है.

आगे क्या?

एलन मस्क और एक्स के पूर्व CEO Linda Yaccarino को 20 अप्रैल 2026 को यूरोपीय अधिकारियों के सामने पेश होना है. फरवरी 2026 में पेरिस पुलिस ने X के दफ्तरों पर छापा भी मारा था. यह मामला अभी खत्म नहीं हुआ है, बल्कि यह और उलझता जा रहा है.