Grok ਰਾਹੀਂ ਬਣ ਰਹੇ ਅਸ਼ਲੀਲ ਕੰਟੈਟ ਨੂੰ ਲੈ ਕੇ ਹੁਣ X ਨੇ ਦਿੱਤਾ ਜਵਾਬ, ਜਾਣੋ ਪੂਰਾ ਮਾਮਲਾ
Grok AI ਦੀ ਦੁਰਵਰਤੋ ਕਰਕੇ ਬਣਾਈਆਂ ਜਾ ਰਹੀਆਂ ਔਰਤਾਂ ਦੀਆਂ ਅਸ਼ਲੀਲ ਵੀਡੀਓਜ਼ ਦੇ ਸਬੰਧ ਵਿੱਚ ਸਰਕਾਰ ਨੇ X ਨੂੰ ਜਵਾਬ ਦੇਣ ਲਈ ਕਿਹਾ ਸੀ।
Published : January 8, 2026 at 11:39 AM IST
ਨਵੀਂ ਦਿੱਲੀ: ਔਰਤਾਂ ਦੇ ਅਸ਼ਲੀਲ ਕੰਟੈਟ ਬਣਾਉਣ ਨੂੰ ਲੈ ਕੇ ਗ੍ਰੋਕ ਏਆਈ ਲਗਾਤਾਰ ਚਰਚਾ ਦਾ ਵਿਸ਼ਾ ਬਣਿਆ ਹੋਇਆ ਹੈ। ਹਾਲ ਹੀ ਵਿੱਚ ਇਸ ਮੁੱਦੇ 'ਤੇ ਸਰਕਾਰ ਨੇ X ਨੂੰ ਜਵਾਬ ਦੇਣ ਲਈ 7 ਜਨਵਰੀ ਤੱਕ ਦਾ ਸਮੇਂ ਦਿੱਤਾ ਸੀ ਅਤੇ ਹੁਣ X ਨੇ ਆਪਣਾ ਜਵਾਬ ਸੌਂਪ ਦਿੱਤਾ ਹੈ, ਜਿਸ ਤੋਂ ਬਾਅਦ ਹੁਣ ਆਈਟੀ ਮੰਤਰਾਲਾ ਔਰਤਾਂ ਅਤੇ ਨਾਬਾਲਗਾਂ ਦੀਆਂ ਜਿਨਸੀ ਅਤੇ ਅਸ਼ਲੀਲ ਤਸਵੀਰਾਂ ਬਣਾਉਣ ਲਈ ਉਪਭੋਗਤਾਵਾਂ ਦੁਆਰਾ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਚੈਟਬੋਟ ਗ੍ਰੋਕ ਦੀ ਦੁਰਵਰਤੋਂ 'ਤੇ ਕਾਰਵਾਈ ਕਰਨ ਲਈ ਐਕਸ ਦੁਆਰਾ ਦਿੱਤੇ ਗਏ ਜਵਾਬ ਅਤੇ ਬੇਨਤੀਆਂ ਦੀ ਜਾਂਚ ਕਰ ਰਿਹਾ ਹੈ।
ਐਲੋਨ ਮਸਕ ਦੀ ਅਗਵਾਈ ਵਾਲੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮ ਨੂੰ ਗ੍ਰੋਕ ਅਤੇ ਹੋਰ ਸਾਧਨਾਂ ਵਰਗੀਆਂ ਏਆਈ-ਅਧਾਰਤ ਸੇਵਾਵਾਂ ਦੀ ਦੁਰਵਰਤੋਂ ਰਾਹੀਂ ਤਿਆਰ ਕੀਤੇ ਜਾ ਰਹੇ ਅਸ਼ਲੀਲ ਅਤੇ ਜਿਨਸੀ ਕੰਟੈਟ ਨੂੰ ਲੈ ਕੇ ਸਖ਼ਤ ਚੇਤਾਵਨੀ ਜਾਰੀ ਕੀਤੇ ਜਾਣ ਤੋਂ ਬਾਅਦ ਐਕਸ ਨੂੰ ਬੁੱਧਵਾਰ ਸ਼ਾਮ 5 ਵਜੇ ਤੱਕ ਮੰਤਰਾਲੇ ਨੂੰ ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਕਾਰਵਾਈ ਰਿਪੋਰਟ ਜਮ੍ਹਾਂ ਕਰਾਉਣ ਲਈ ਸਮਾਂ ਦਿੱਤਾ ਗਿਆ ਸੀ। ਸੂਤਰਾਂ ਨੇ ਪੀਟੀਆਈ ਨੂੰ ਦੱਸਿਆ ਕਿ ਐਕਸ ਨੇ ਆਪਣਾ ਜਵਾਬ ਜਮ੍ਹਾਂ ਕਰਵਾ ਦਿੱਤਾ ਹੈ ਅਤੇ ਇਸਦੀ ਜਾਂਚ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ। ਹਾਲਾਂਕਿ, ਐਕਸ ਦੇ ਜਮ੍ਹਾਂ ਕਰਨ ਦੇ ਵੇਰਵਿਆਂ ਦਾ ਤੁਰੰਤ ਪਤਾ ਨਹੀਂ ਲੱਗ ਸਕਿਆ।
ਐਤਵਾਰ ਨੂੰ X ਦੇ 'ਸੇਫਟੀ' ਹੈਂਡਲ ਨੇ ਕਿਹਾ ਕਿ ਉਹ ਆਪਣੇ ਪਲੇਟਫਾਰਮ 'ਤੇ ਗੈਰ-ਕਾਨੂੰਨੀ ਕੰਟੈਟ, ਜਿਸ ਵਿੱਚ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਕੰਟੈਟ (CSAM) ਸ਼ਾਮਲ ਹੈ, ਦੇ ਵਿਰੁੱਧ ਕਾਰਵਾਈ ਕਰਕੇ, ਇਸਨੂੰ ਹਟਾ ਕੇ, ਅਕਾਊਂਟਸ ਨੂੰ ਸਥਾਈ ਤੌਰ 'ਤੇ ਮੁਅੱਤਲ ਕਰੇਗਾ।
ਐਕਸ ਨੇ ਮਸਕ ਦੁਆਰਾ ਗੈਰ-ਕਾਨੂੰਨੀ ਕੰਟੈਟ 'ਤੇ ਲਏ ਗਏ ਰੁਖ਼ ਨੂੰ ਦੁਹਰਾਉਂਦੇ ਹੋਏ ਕਿਹਾ ਕਿ, "ਜੋ ਵੀ ਵਿਅਕਤੀ ਗ੍ਰੋਕ ਨੂੰ ਗੈਰ-ਕਾਨੂੰਨੀ ਕੰਟੈਟ ਬਣਾਉਣ ਲਈ ਵਰਤਦਾ ਹੈ ਜਾਂ ਉਕਸਾਉਂਦਾ ਹੈ, ਤਾਂ ਉਸਨੂੰ ਵੀ ਨਤੀਜੇ ਭੁਗਤਣੇ ਪੈਣਗੇ।"
2 ਜਨਵਰੀ ਨੂੰ ਆਈਟੀ ਮੰਤਰਾਲੇ ਨੇ ਐਕਸ ਦੀ ਖਿਚਾਈ ਕੀਤੀ ਸੀ ਅਤੇ ਇਸਨੂੰ ਨਿਰਦੇਸ਼ ਦਿੱਤਾ ਸੀ ਕਿ ਉਹ ਸਾਰੇ ਅਸ਼ਲੀਲ ਅਤੇ ਗੈਰ-ਕਾਨੂੰਨੀ ਕੰਟੈਟ ਨੂੰ ਤੁਰੰਤ ਹਟਾ ਦੇਵੇ, ਖਾਸ ਕਰਕੇ ਗ੍ਰੋਕ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਕੰਟੈਟ, ਨਹੀਂ ਤਾਂ ਕਾਨੂੰਨ ਦੇ ਤਹਿਤ ਕਾਰਵਾਈ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਵੇਗਾ।
ਸ਼ੁੱਕਰਵਾਰ ਨੂੰ ਜਾਰੀ ਨਿਰਦੇਸ਼ ਵਿੱਚ ਮੰਤਰਾਲੇ ਨੇ ਅਮਰੀਕਾ-ਅਧਾਰਤ ਸੋਸ਼ਲ ਮੀਡੀਆ ਫਰਮ ਨੂੰ 72 ਘੰਟਿਆਂ ਦੇ ਅੰਦਰ ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਕਾਰਵਾਈ ਰਿਪੋਰਟ (ATR) ਜਮ੍ਹਾਂ ਕਰਾਉਣ ਲਈ ਕਿਹਾ ਸੀ, ਜਿਸ ਵਿੱਚ Grok ਐਪਲੀਕੇਸ਼ਨ ਦੇ ਸੰਬੰਧ ਵਿੱਚ ਅਪਣਾਏ ਗਏ ਜਾਂ ਪ੍ਰਸਤਾਵਿਤ ਖਾਸ ਤਕਨੀਕੀ ਅਤੇ ਸੰਗਠਨਾਤਮਕ ਉਪਾਵਾਂ, ਮੁੱਖ ਪਾਲਣਾ ਅਧਿਕਾਰੀ ਦੁਆਰਾ ਵਰਤੀ ਗਈ ਭੂਮਿਕਾ ਅਤੇ ਨਿਗਰਾਨੀ, ਅਪਮਾਨਜਨਕ ਕੰਟੈਟ, ਉਪਭੋਗਤਾਵਾਂ ਅਤੇ ਅਕਾਊਂਟਸ ਵਿਰੁੱਧ ਕੀਤੀਆਂ ਗਈਆਂ ਕਾਰਵਾਈਆਂ ਅਤੇ ਭਾਰਤੀ ਕਾਨੂੰਨਾਂ ਦੇ ਤਹਿਤ ਲਾਜ਼ਮੀ ਰਿਪੋਰਟਿੰਗ ਜ਼ਰੂਰਤ ਦੀ ਪਾਲਣਾ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਵਿਧੀਆਂ ਦਾ ਜ਼ਿਕਰ ਕੀਤਾ ਗਿਆ ਹੈ।
ਜਾਰੀ ਕੀਤੇ ਗਏ ਅਲਟੀਮੇਟਮ ਵਿੱਚ ਆਈਟੀ ਮੰਤਰਾਲੇ ਨੇ ਨੋਟ ਕੀਤਾ ਕਿ ਐਕਸ ਦੁਆਰਾ ਵਿਕਸਤ ਅਤੇ ਪਲੇਟਫਾਰਮ 'ਤੇ ਏਕੀਕ੍ਰਿਤ ਗ੍ਰੋਕ ਏਆਈ ਦੀ ਵਰਤੋ ਉਪਭੋਗਤਾ ਔਰਤਾਂ ਦੀਆਂ ਅਸ਼ਲੀਲ ਤਸਵੀਰਾਂ ਜਾਂ ਵੀਡੀਓਜ਼ ਨੂੰ ਅਪਮਾਨਜਨਕ ਜਾਂ ਅਸ਼ਲੀਲ ਢੰਗ ਨਾਲ ਹੋਸਟ ਕਰਨ, ਤਿਆਰ ਕਰਨ, ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਨ ਜਾਂ ਸ਼ੇਅਰ ਕਰਨ ਲਈ ਜਾਅਲੀ ਅਕਾਊਂਟ ਬਣਾਉਣ ਲਈ ਦੁਰਵਰਤੋਂ ਕਰ ਰਹੇ ਹਨ।
ਮੰਤਰਾਲੇ ਨੇ ਕਿਹਾ ਕਿ ਮਹੱਤਵਪੂਰਨ ਗੱਲ ਇਹ ਹੈ ਕਿ ਇਹ ਸਿਰਫ਼ ਜਾਅਲੀ ਅਕਾਊਂਟ ਨੂੰ ਬਣਾਉਣ ਤੱਕ ਹੀ ਸੀਮਿਤ ਨਹੀਂ ਹੈ ਸਗੋਂ ਉਨ੍ਹਾਂ ਔਰਤਾਂ ਨੂੰ ਵੀ ਨਿਸ਼ਾਨਾ ਬਣਾਇਆ ਜਾ ਰਿਹਾ ਹੈ ਜੋ ਪ੍ਰੋਂਪਟ, ਚਿੱਤਰ ਹੇਰਾਫੇਰੀ ਅਤੇ ਸਿੰਥੈਟਿਕ ਆਉਟਪੁੱਟ ਰਾਹੀਂ ਆਪਣੀਆਂ ਤਸਵੀਰਾਂ ਜਾਂ ਵੀਡੀਓਜ਼ ਨੂੰ ਹੋਸਟ ਜਾਂ ਪ੍ਰਕਾਸ਼ਤ ਕਰਦੀਆਂ ਹਨ। ਅਜਿਹਾ ਵਿਵਹਾਰ ਪਲੇਟਫਾਰਮ-ਪੱਧਰ ਦੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਅਤੇ ਲਾਗੂ ਕਰਨ ਦੇ ਢੰਗਾਂ ਦੀ ਗੰਭੀਰ ਅਸਫਲਤਾ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ ਅਤੇ ਨਿਰਧਾਰਤ ਕਾਨੂੰਨਾਂ ਦੀ ਉਲੰਘਣਾ ਕਰਦੇ ਹੋਏ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਤਕਨਾਲੋਜੀਆਂ ਦੀ ਘੋਰ ਦੁਰਵਰਤੋਂ ਦੇ ਬਰਾਬਰ ਹੈ।-ਮੰਤਰਾਲੇ
ਸਰਕਾਰ ਨੇ X ਨੂੰ ਇਹ ਸਪੱਸ਼ਟ ਕਰ ਦਿੱਤਾ ਹੈ ਕਿ IT ਐਕਟ ਅਤੇ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਵਿਕਲਪਿਕ ਨਹੀਂ ਹੈ ਅਤੇ IT ਐਕਟ ਦੀ ਧਾਰਾ 79 ਦੇ ਅਧੀਨ ਕਾਨੂੰਨੀ ਛੋਟਾਂ ਉਚਿਤ ਮਿਹਨਤ ਦੀਆਂ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਦੀ ਸਖਤੀ ਨਾਲ ਪਾਲਣਾ ਕਰਨ 'ਤੇ ਸ਼ਰਤਬੱਧ ਹਨ।
ਮੰਤਰਾਲੇ ਨੇ ਸਲਾਹ ਦਿੰਦੇ ਹੋਏ ਕਿਹਾ ਕਿ ਤੁਸੀਂ ਆਪਣੇ ਪਲੇਟਫਾਰਮ 'ਤੇ ਕਿਸੇ ਵੀ ਕੰਟੈਟ ਦੀ ਮੇਜ਼ਬਾਨੀ, ਪ੍ਰਦਰਸ਼ਿਤ, ਅਪਲੋਡ, ਪ੍ਰਕਾਸ਼ਨ, ਪ੍ਰਸਾਰਣ, ਸਟੋਰੇਜ, ਸਾਂਝਾਕਰਨ ਤੋਂ ਸਖ਼ਤੀ ਨਾਲ ਪਰਹੇਜ਼ ਕਰੋ, ਜੋ ਅਸ਼ਲੀਲ, ਜਿਨਸੀ ਤੌਰ 'ਤੇ ਸਪੱਸ਼ਟ, ਪੀਡੋਫਿਲਿਕ ਜਾਂ ਕਿਸੇ ਵੀ ਕਾਨੂੰਨ ਅਧੀਨ ਵਰਜਿਤ ਹਨ।
ਸਰਕਾਰ ਨੇ X ਨੂੰ ਸਪੱਸ਼ਟ ਸ਼ਬਦਾਂ ਵਿੱਚ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ ਉਚਿਤ ਮਿਹਨਤ ਦੀਆਂ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਦੀ ਪਾਲਣਾ ਕਰਨ ਵਿੱਚ ਕਿਸੇ ਵੀ ਅਸਫਲਤਾ ਦੇ ਨਤੀਜੇ ਵਜੋਂ ਆਈਟੀ ਐਕਟ ਦੀ ਧਾਰਾ 79 ਦੇ ਤਹਿਤ ਦੇਣਦਾਰੀ ਤੋਂ ਛੋਟ ਖਤਮ ਹੋ ਜਾਵੇਗੀ ਅਤੇ ਪਲੇਟਫਾਰਮ ਆਈਟੀ ਐਕਟ ਅਤੇ ਭਾਰਤੀ ਨਿਆਏ ਸੰਹਿਤਾ ਸਮੇਤ ਹੋਰ ਕਾਨੂੰਨਾਂ ਦੇ ਤਹਿਤ ਨਤੀਜੇ ਵਜੋਂ ਕਾਰਵਾਈ ਲਈ ਵੀ ਜ਼ਿੰਮੇਵਾਰ ਹੋਵੇਗਾ।
ਇਹ ਵੀ ਪੜ੍ਹੋ:-
