نئی دہلی: مصنوعی ذہانت (AI) کا استعمال تیزی سے بڑھ رہا ہے۔ اسی دوران اے آئی کے استعمال سے پیدا ہونے والے خطرات بھی سامنے آنا شروع ہو گئے ہیں۔ حال ہی میں، صارفین نے شکایت کی ہے کہ OpenAI کے ChatGPT کی مدد سے، لوگ جعلی آدھار، پرمننٹ اکاؤنٹ نمبر (PAN)، پاسپورٹ اور ووٹر آئی ڈی بنا رہے ہیں۔ پچھلے ہفتے، OpenAI نے ChatGPT کی مقامی تصویر بنانے کی صلاحیت کو ان لاک کیا ہے۔ تب سے، صارفین 700 ملین سے زیادہ تصاویر بنا چکے ہیں۔
یہی نہیں بلکہ لوگ ان تصاویر کو بنانے کے لیے نئے نئے ٹولز بنا رہے ہیں۔ ان میں سب سے زیادہ قابل ذکر غبلی طرز کے پورٹریٹ ہیں۔ دریں اثنا، مائیکرو بلاگنگ سائٹ X پر، کچھ صارفین نے QR کوڈ اور آدھار نمبر کے ساتھ OpenAI کے سی ای او سیم آلٹمین اور ٹیسلا کے سی ای او ایلون مسک کے جعلی آدھار کارڈ شیئر کیے ہیں۔
I asked AI to generate an Aadhaar card with just a name, DOB, and address ..and it created a near-perfect replica. So now anybody can make fake replica of Aadhar and Pan card...
— Piku (@RisingPiku) April 4, 2025
We keep talking about data privacy, but who’s selling these Aadhaar and Pancard datasets to AI… pic.twitter.com/0ugSiLuuqy
جعلی پین کارڈ بھی بنا رہا ہے چیٹ جی پی ٹی
چیٹ جی پی ٹی کا غلط استعمال صرف آدھار کارڈ تک ہی محدود نہیں ہے۔ سوشل میڈیا صارفین نے ایسی مثالیں بھی دی ہیں جہاں چیٹ بوٹ بغیر غلطی کیے درستگی کے ساتھ پین کارڈ بنا سکتا ہے۔ آدھار کارڈ یونیک آئیڈنٹٹی اتھارٹی آف انڈیا (UIDAI) کے ذریعہ جاری کیا جاتا ہے، جب کہ پین کارڈ محکمہ انکم ٹیکس کے ذریعہ جاری کیا جاتا ہے۔
ChatGPT is generating fake Aadhaar and PAN cards instantly, which is a serious security risk.
— Yaswanth Sai Palaghat (@yaswanthtweet) April 4, 2025
This is why AI should be regulated to a certain extent.@sama @OpenAI pic.twitter.com/4bsKWEkJGr
ایک صارف نے مثال دیتے ہوئے لکھا کہ جب اس نے چیٹ جی پی ٹی سے ڈونلڈ ٹرمپ کے نام پر آدھار کارڈ بنانے کے لیے کہا تو اسے جعلی آدھار کارڈ دیا گیا۔ یشونت سائی پالگھاٹ نامی ایک سوشل میڈیا صارف نے آریہ بھٹہ کی تصویر شیئر کرتے ہوئے لکھا کہ چیٹ جی پی ٹی فوری طور پر جعلی آدھار اور پین کارڈ بنا رہا ہے، جو کہ ایک سنگین سکیورٹی رسک ہے۔ یہی وجہ ہے کہ AI کو ایک خاص حد تک ریگولیٹ کیا جانا چاہیے۔
ChatGPT کے نئے امیج جنریٹر نے ChatGPT کی مقامی امیج جنریشن کی صلاحیتوں پر پابندی لگا دی ہے اس کا مطلب ہے کہ چیٹ بوٹ کو چلانے والا بلٹ ان فاؤنڈیشن ماڈل DALL-E 3 جیسے بیرونی ماڈل پر انحصار کرنے کی بجائے براہ راست تصاویر بنا سکتا ہے۔
اپنے GPT-4o اصل امیج جنریشن سسٹم کارڈ میں، OpenAI نے تسلیم کیا کہ نئے ماڈل میں پچھلے DALL-E ماڈل سے زیادہ خطرات لاحق ہونے کی صلاحیت ہے۔
کمپنی کا بیان
کمپنی نے کہا ہے کہ "DALL·E کے برعکس جو ایک ڈفیوژن ماڈل کے طور پر کام کرتا ہے، 4o امیج بنانے کا جنریشن کا ایک خودکار ماڈل ہے جو مقامی طور پر ChatGPT کے اندر سرایت کرتا ہے۔ یہ بنیادی فرق کئی نئی صلاحیتوں کو متعارف کراتا ہے جو پچھلے جنریٹو ماڈلز سے مختلف ہیں، اور جو نئے خطرات کا باعث بنتی ہیں... یہ صلاحیتیں، اکیلے اور نئے ماڈلز کے لیے خطرے کا باعث نہیں بن سکتیں۔"
یہ بات قابل غور ہے کہ ChatGPT پر فی الحال بچوں کی فوٹو ریئلسٹک تصاویر (نابالغ، عوامی، شخصیات سمیت)، شہوانی، شہوت انگیز مواد، بدسلوکی اور نفرت انگیز تصاویر بنانے پر سخت پابندیاں ہیں۔
کانگریس نے حکومت کو بنایا نشانہ
کرناٹک کانگریس نے چیٹ جی پی ٹی پر جعلی دستاویزات بنائے جانے پر پی ایم مودی کو نشانہ بنایا اور لکھا کہ پی ایم مودی کا پین کارڈ ایلون مسک کا آدھار کارڈ ہے! OpenAI کا تازہ ترین AI ماڈل، GPT-4O، اب انتہائی حقیقت پسندانہ آدھار اور PAN کارڈ، پاسپورٹ اور یہاں تک کہ ووٹر شناختی کارڈ بنانے کے لیے پایا گیا ہے۔ کیا مرکزی حکومت اے آئی ٹولز کے غلط استعمال کو روکنے کے لیے تیار ہے؟
PM Modi's Pan Card, Elon Musk's Aadhar Card !
— Karnataka Congress (@INCKarnataka) April 4, 2025
OpenAI’s latest AI model, GPT-4o has now been found generating hyper-realistic Aadhaar and PAN cards, passports, and even voter IDs.
Is central government prepared to takle AI tool misuse ? pic.twitter.com/ELqKBcHhz0
جعلی دستاویزات سے بچنے کے لیے کیا کرنا چاہیے؟
کسی کو بھی اپنے نام سے جعلی دستاویزات بنانے سے روکنے کے لیے، اپنی ذاتی دستاویزات کسی کے ساتھ شیئر نہ کریں۔ بغیر سوچے سمجھے نامعلوم لنکس پر کلک نہ کریں۔ نیز تھرڈ پارٹی ایپس کو فوٹو گیلری تک رسائی کی اجازت نہ دیں۔
جعلی دستاویزات کی شناخت کیسے کی جائے؟
جعلی دستاویز کی شناخت کے لیے دستاویز میں دی گئی معلومات کو چیک کریں کہ آیا یہ درست ہے یا نہیں۔ اس کے علاوہ دستاویز پر موجود تصویر کو غور سے دیکھیں کہ آیا یہ اصلی ہے یا ایڈیٹ۔ دستاویز کی ترتیب کو چیک کریں کہ آیا یہ عام ہے یا اس میں کچھ غلط ہے۔
