ٹیلیگرام پر خواتین کا جعلی عریاں بنانے والا ایک AI بوٹ فروغ پا رہا ہے

ٹیلیگرام پر خواتین کا جعلی عریاں بنانے والا ایک AI بوٹ فروغ پا رہا ہے

ٹکنالوجی کی طاقت سے ، دنیا کے سب سے بڑے ذہنوں میں یہ صلاحیت موجود ہے کہ وہ کچھ بھی حاصل کر سکے۔ لیکن ، جبکہ کچھ معذور افراد کے لئے زندگی آسان بنانے کے لئے ، یا عالمی وبائی مرض کے خاتمے میں مدد دینے کے لئے کام کر رہے ہیں ، دوسروں کی توجہ کسی کم عمدہ وجہ پر مرکوز ہے۔



ایک گمنام پروگرامر نے گذشتہ سال ڈیپ نڈ کے نام سے ایک ایپ لانچ کی تھی ، جس نے خواتین کی تصاویر سے لباس ہٹانے کے لئے ڈیف فیک ٹکنالوجی کا استعمال کیا تھا۔ یہ ایسی سپر پاور کی پیش کش کے طور پر بیان کیا گیا ہے جو آپ ہمیشہ چاہتے تھے ، صارفین کو خواتین کی تصاویر (ٹکنالوجی مردوں پر کام نہیں کرتی تھی) اپلوڈ کرنے کے قابل بنائے گی جس کے بعد وہ اس کو چھین لے گی اور قابل اعتماد جعلی نوڈس میں تبدیل ہوجائے گی۔ مختلف ایپ اسٹورز پر ڈاؤن لوڈ کرنے کے لئے اس کی قیمت. 50 ہے۔

اس ایپ کو اس کے تخلیق کار نے عجیب و غریب بیکڈ پیال کے ساتھ ہی گھنٹوں بعد آف لائن لے لیا تھا۔ ہم اس طرح پیسہ نہیں بنانا چاہتے ، انہوں نے لکھا ایک بیان . دنیا ابھی ڈیپ نیوڈ کے لئے تیار نہیں ہے۔

ایک سال کے بعد ، اس ایپ میں مقبولیت اور استعمال میں تیزی سے اضافہ ہوا ہے۔ یہ سافٹ ویئر ٹیلیگرام پر دریافت کیا گیا ہے ، جہاں اسے ایک ’ڈیپ فیک ماحولیاتی نظام‘ کے ایک حصے کے طور پر کام کیا گیا ہے ، جس میں 104،000 سے زیادہ خواتین کو جعلی نوڈس تشکیل دیا گیا ہے۔ ماحولیاتی نظام ایک AI بوٹ پر قائم ہے جو درخواست پر نوڈس تیار کرتا ہے ، اور ہر دن دسیوں ہزار صارفین کو نئی تصاویر کی گیلری بھیجتا ہے۔ چیٹ ممبران اپنے میسجنگ گروپس میں بوٹ کی مخصوص درخواستیں کرسکتے ہیں۔ خیال کیا جاتا ہے کہ کچھ تصاویر میں کم عمر لڑکیوں کی عکاسی کی گئی ہے۔



سینسٹی ، ایک گہری فیک کا پتہ لگانے والی کمپنی ، اس کے نتائج کو شائع کیا اکتوبر میں اس مسئلے پر کمپنی کے سی ای او اور چیف سائنسدان جیورجیو پٹرینی نے دازڈ سے بات کرتے ہوئے کہا ہے: ہم نے اس سے پہلے چیٹ روم بیوٹ میں دیپ نیوڈ ٹکنالوجی سرایت نہیں کی ہے ، جس میں صارف کی رسائ اور پیداوار کے پیمانے کی ڈرامائی صلاحیت موجود ہے۔ در حقیقت ، متاثرہ افراد کی تعداد کے ل for یہ اکیلا ہی اس نوعیت کا سب سے بڑا واقعہ ہے۔

محققین نے بتایا ہے کہ ٹیلیگرام پر جعلی نوٹوں کی تعداد میں اپریل اور جون 2020 کے درمیان 198 فیصد اضافہ ہوا ہے۔ یہ اعدادوشمار اس خبر کے مطابق ہے کہ لاک ڈاؤن کے دوران انتقام کی فحش شرحوں میں اضافہ ہورہا ہے ، جس میں مباشرت سے بدسلوکی کی تصاویر میں 22 فیصد اضافہ ہوا ہے۔ اس سال. اپنی رپورٹ میں ، حساسیت نے اس وسیع تر خطرہ سے خطاب کیا کہ افراد کی ’’ پھنس گئی ‘‘ تصویر عوامی سطح پر شرمناک یا بھتہ خوری پر مبنی حملوں کے ایک حصے کے طور پر ٹیلیگرام سے آگے نجی یا عوامی چینلز میں شیئر کی جاسکتی ہے۔



اگرچہ حساسیت کا اندازہ ہے کہ بوٹ کے ذریعہ 104،000 سے زیادہ خواتین کو نشانہ بنایا گیا ہے ، لیکن اصل تعداد اس سے کہیں زیادہ ہونے کا امکان ہے۔ یہ ٹیکنالوجی کی سادگی کا پابند ہے۔ ایک جعلی عریاں پیدا کرنے کے لئے تمام صارفین کو یہ کرنا پڑتا ہے کہ ان کی منتخب کردہ تصویر کو بیوٹی پر متن بنائیں ، جو بغیر کسی لباس کے ایک تصویر کو واپس بھیجے گا۔ اس کے بعد یہ فوٹو منسلک ٹیلیگرام چینلز کے ساتھ شیئر کیا جاتا ہے۔ ان چینلز میں سے ایک میں کیے گئے گمنامہ سروے میں بتایا گیا ہے کہ 70 فیصد صارفین روس ، یوکرائن ، بیلاروس ، قازقستان اور سابق یو ایس ایس آر ممالک کے ہیں۔ بہت سے لوگوں نے بتایا کہ انہیں روسی سوشل میڈیا نیٹ ورک وی کے سے یہ بوٹ دریافت ہوا ہے۔

کوئی مداخلت یا ہٹاؤ واقع نہیں ہوا ہے ، اور ، اس کے ساتھ ، ہم نہیں جانتے کہ آج بھی بوٹ کے ذریعہ تیار کردہ تصاویر کا مالک کون ہے یا اس کا اشتراک کرسکتا ہے - جیورجیو پیٹرینی ، حساسیت

تقریبا دو ماہ قبل اس کی کھوج کے بارے میں عوامی سطح پر جانے کے باوجود ، حساسیت کا کہنا ہے کہ ٹیلیگرام کی طرف سے اسے کبھی جواب نہیں ملا۔ پٹرینی کا کہنا ہے کہ ، یہ چینل اب بھی پلیٹ فارم پر متحرک ہیں ، اگرچہ اب زیادہ تر بیوٹ یا اس کی تخلیقات کی کھل کر تشہیر کرنے سے گریز کر رہے ہیں۔ اہم بات یہ ہے کہ ، اگرچہ ، بیوٹی خود اب بھی پہلے کی طرح کام کررہی ہے۔ کوئی مداخلت یا ہٹاؤ واقع نہیں ہوا ہے ، اور ، اس کے ساتھ ، ہم نہیں جانتے کہ آج بھی بوٹ کے ذریعہ تخلیق کردہ تصاویر کو کس کے پاس ہے یا اس کا اشتراک کیا جاسکتا ہے۔

متعدد گروپوں نے اپنے نام تبدیل کردیئے ہیں تاکہ وہ شناخت ہونے سے بچ سکیں ، جبکہ دوسرے چینلز مکمل طور پر غائب ہوچکے ہیں ، یا ان میں شریک عریاں تصاویر کو حذف کردیا گیا تھا۔ جیسا کہ اطلاع دی گئی ہے تار ، اکتوبر کے آخر میں ، بوٹ آئی فون اور آئی پیڈ پر ناقابل رسائی ہو گیا ، جس میں ایک غلطی کا پیغام دکھایا گیا جس میں کہا گیا کہ یہ ایپل کے رہنما خطوط کی خلاف ورزی کرتا ہے۔

پیٹرینی کا کہنا ہے کہ بوٹ ٹیلیگرام پر خاص طور پر پلیٹ فارم کی وجہ سے پھل پھولنے میں کامیاب رہا ہے جس کی وجہ سے آسانی سے بوٹ اور دیگر آٹومیشنوں کو ان کے چیٹ رومز میں ضم کیا جاسکتا ہے ، اور یہ وضاحت کرتے ہوئے کہ اس کی بنیادی وجہ تکنیکی ہے۔

اگرچہ اس کا خیال ہے کہ آپ فی الحال جعلی نوڈس کو اصلی اعداد سے ممتاز کرسکتے ہیں ، لیکن پٹرینی نے اعلان کیا کہ یہ زیادہ دن نہیں چل پائے گا۔ انہوں نے مزید کہا ، ٹکنالوجی ایک تیزرفتاری کی رفتار سے بہتر ہو رہی ہے اور سامان بن رہی ہے۔ اس کو چلانے کے ل You آپ کو مشین لرننگ محقق ہونے کی ضرورت نہیں ہے۔ یہ سافٹ ویئر اوپن سورس ہے اور اس میں سبق آموز اور ڈویلپرز کی بڑی جماعتیں ہیں۔

ٹیلی گراف پر ڈی پی کے ذریعے اعداد و شمار کے عمل کو پھیلاناAI بوٹحساسیت کے ذریعے

اس طرح کی ڈیف فیک ٹکنالوجی سے وابستہ ممکنہ آمدنی بھی زیادہ لوگوں کو اس کے غلط استعمال پر مجبور کر سکتی ہے۔ پٹرینی وضاحت کرتے ہیں کہ لوگ یہ سمجھنے میں آسانی سے دلچسپی پیدا کررہے ہیں کہ کس طرح ڈیف ٹیک ٹیکنالوجی کو کاروباری مواقع میں تبدیل کیا جاسکتا ہے ، جس میں قانونی یا غیر قانونی مفہوم ہے۔ مثال کے طور پر ، ہماری تفتیش میں موجود بوٹ ادائیگی کرنے والے صارفین کو بغیر کسی واٹر مارکس کے تیزی سے تصاویر تیار کرنے کے ذریعہ مانیٹنگ کررہا ہے۔

تاہم ، جیسا کہ ڈیفیک سافٹ ویئر میں بہتری آتی ہے ، اسی طرح کھوج کی ٹکنالوجی بھی کرتی ہے۔ پیٹرینی کا کہنا ہے کہ پتہ لگانے والی ٹکنالوجی مستقبل میں مزید بنیادی کردار ادا کرے گی ، جو ہم دیکھتے ہیں اسے سمجھنے میں اور آن لائن ڈپ فیکس کو خود بخود دریافت کرنے میں ہماری مدد کرے گی۔ خواتین کی خصوصیت کے طور پر 96 فیصد صنفی مساوات کے لئے جاری لڑائی میں ان فوٹوز اور ویڈیوز کی تخلیق کو روکنے کے لئے تمام گہری جعلی ویڈیوز ، روک تھام اور رد عمل والی ٹکنالوجی کا استعمال بہت ضروری ہے۔

پٹرینی کا کہنا ہے کہ یہ ایک مسئلہ ہے جو بدقسمتی سے ہم میں سے ہر ایک کو نجی افراد کی حیثیت سے متاثر کرے گا۔ ہمارے چہرے کی خوبیوں کو چوری اور دوبارہ سے بصری مواد میں تبدیل کیا جاسکتا ہے جو ہماری ساکھ پر حملہ کرتا ہے اور عوامی شرمناک ، بلیک میلنگ یا بھتہ خوری کے لئے اسلحہ کا استعمال کیا جاسکتا ہے۔

یہ بات اہم ہے کہ ہم میں سے ہر ایک کو یہ معلوم ہونا چاہئے کہ آن لائن شائع کی جانے والی کوئی بھی تصویر یا ویڈیو پوری دنیا کو دکھائی دیتی ہے ، اور ہوسکتا ہے کہ خراب اداکار اسے استعمال کر رہے ہوں۔