ڪراچي(ويب ڊيسڪ)اوپن اي آءِ اعتراف ڪيو آهي ته هن دنيا جي ”درجنين“ ادارن کي خبردار ڪيو هو ته سندس مصنوعي ذهانت وارا بوٽ غلط طريقي سان ڪم ڪندي انهن جي ويب سائيٽن سان ڇيڙڇاڙ ڪري سگهن ٿا.
ڪمپني چيو ته مصنوعي ذهانت وارن ايجنٽن ”حڪومتن، يونيورسٽين، سرڪاري ادارن ۽ ٻين تنظيمن“ کان معلومات حاصل ڪرڻ جي ڪوشش ڪئي، جن ۾ آمريڪا جو سيڪيورٽيز اينڊ ايڪسچينج ڪميشن (ايس اي سي)، آدمشماري بيورو ۽ تعليم وارو کاتو پڻ شامل هئا.
اهي انڪشاف آسٽريليا جي وزيراعظم اينٿوني البانيزي جي ان اعلان کان ڪجهه ڏينهن پوءِ سامهون آيا آهن، جنهن ۾ هن ٻڌايو هو ته اوپن اي آءِ جا ايجنٽ آسٽريلوي حڪومت جي هلندڙ صحت واري منصوبي ”ميڊيڪيئر“ جي ويب سائيٽ تي موجود غير عوامي فائلن تائين رسائي حاصل ڪري ويا هئا.
آگسٽ کان وٺي، مصنوعي ذهانت جي اوزارن جي ممڪن طور تي سنگين، بلڪه ”زندگي لاءِ خطرو بڻجندڙ“ اثرن بابت عوامي خدشا وڌندا رهيا آهن، خاص طور تي اهڙي وقت ۾ جڏهن اهي اوزار انساني ڪنٽرول کان ٻاهر وڃڻ جو امڪان رکن ٿا.
اوپن اي آءِ چيو ته ڪجهه ڊيٽا تائين مصنوعي ذهانت وارن ايجنٽن رسائي حاصل ڪئي. اهي بنيادي طور اهڙا بوٽ آهن، جيڪي ڪنهن حد تائين خودمختيار طريقي سان ڪم ڪرڻ لاءِ ٺاهيا ۽ تربيت ڏنا ويندا آهن ۽ انهن جو مقصد ”عوامي معلومات جا معتبر ذريعا“ ڳولڻ هو.
پر ڪمپني نشاندهي ڪئي ته ڪجهه بوٽ ان حد کان اڳتي وڌي ويا ۽ ويب سائيٽن تي موجود حفاظتي قدمن کي نظرانداز ڪرڻ جي ڪوشش ڪئي.
ڪمپني موجب، مثال طور مردم شماري بيورو کان معلومات حاصل ڪرڻ جي ڪوشش دوران مصنوعي ذهانت وارن ايجنٽن انهن اوزارن جو استعمال ڪيو، جيڪي سافٽ ويئر ٺاهيندڙن لاءِ مخصوص هوندا آهن.
اوپن اي آءِ چيو ته بوٽن جنهن به سرڪاري ڊيٽا تائين رسائي حاصل ڪئي، اها عوامي هئي.
بهرحال، ڪمپني ٻڌايو ته ايس اي سي کان بوٽن جيڪا معلومات حاصل ڪئي، اها بعد ۾ مصنوعي ذهانت وارن ايجنٽن طرفان هڪ ٻي ويب سائيٽ تي شايع ڪئي وئي. ايس اي سي آمريڪي اسٽاڪ مارڪيٽ کي ضابطي ۾ رکڻ ۽ سيڙپڪارن جي تحفظ جو ذميوار ادارو آهي. اوپن اي آءِ جو چوڻ آهي ته اها ڪارروائي ارادي سان نه ڪئي وئي هئي.
اوپن اي آءِ جمعي ڏينهن جن ٻين واقعن بابت تفصيل ظاهر ڪيا، انهن مان ڪجهه ۾ سندس مصنوعي ذهانت وارن ايجنٽن اهڙي وقت ڊيٽا منتقل ڪئي، جڏهن کين ائين نه ڪرڻ گهرجي ها.
اهڙي سرگرمي جي نتيجي ۾ گهٽ ۾ گهٽ 53 اهڙا واقعا سامهون آيا، جن ۾ اوپن اي آءِ جي ڪنهن ايجنٽ چيٽ جي پي ٽي استعمال ڪندڙ جي سرگرمي مان ڪا تصوير حاصل ڪري اها ڪنهن ٻئي هنڌ منتقل ڪئي.
ڪمپني چيو ته هر ان واقعي ۾، جنهن ۾ ڪنهن استعمال ڪندڙ جي تصوير مصنوعي ذهانت واري ايجنٽ طرفان استعمال ڪري منتقل ڪئي وئي، ان استعمال ڪندڙ اوپن اي آءِ کي پنهنجي ڊيٽا استعمال ڪري ماڊلز جي تربيت ڪرڻ جي اجازت ڏني هئي.
تنهن هوندي به، اوپن اي آءِ اعتراف ڪيو: ”هي هن ڊيٽا جو مناسب استعمال ناهي.“
ڪمپني وڌيڪ چيو ته استعمال ڪندڙن جي تصويرن جو ليڪ ٿيڻ ان وقت ٿيو، جڏهن هن مصنوعي ذهانت جي تربيت لاءِ نوان حفاظتي انتظام لاڳو نه ڪيا هئا. ڪمپني چيو ته اها ڪوشش ڪري رهي آهي ته استعمال ڪندڙن جون جيڪي به تصويرون ڪنهن ٽئين ڌر ڏانهن منتقل ڪيون ويون آهن، انهن سڀني کي اتان هٽايو وڃي.
رائٽرز سڀ کان پهريان انهن وڌايل جاچ بابت رپورٽ ڪيو. اوپن اي آءِ پڻ پنهنجي عوامي بلاگ تي ان جا تفصيل شايع ڪيا.
ايجنٽن جي سرگرمي جي ڪجهه واقعن ۾ اوپن اي آءِ چيو ته اوزارن ڪجهه ويب سائيٽن جا حفاظتي ضابطا ”نظرانداز“ ڪيا.
ٻين واقعن ۾، ويب سائيٽن تان معلومات حاصل ڪرڻ جي ڪوششن دوران مصنوعي ذهانت وارن ايجنٽن ”غلط رخ اختيار ڪرڻ“ يا ”ميل الائنمينٽ نه هجڻ“ جو مظاهرو ڪيو.
”ميس الائنمينٽ“ اها اصطلاح آهي، جيڪا مصنوعي ذهانت جون ڪمپنيون ۽ محقق انهن حالتن لاءِ استعمال ڪندا آهن، جڏهن ڪو اي آءِ اوزار اهڙو ڪم ڪري، جنهن لاءِ ان کي تربيت نه ڏني وئي هجي يا جيڪو ڪنهن ٻئي سبب سان ارادي جي ابتڙ هجي.
اوپن اي آءِ چيو ته هو متاثر ٿيل ادارن جي سڃاڻپ محدود رکي رهيو آهي، ڇاڪاڻ ته ڪيترن ئي ادارن ڪمپني کان تفصيل ظاهر نه ڪرڻ جي درخواست ڪئي هئي.
ڪمپني چيو، ”اسان جو مقصد هر اداري کي حقيقتون فراهم ڪرڻ ۽ اهو فيصلو انهن تي ڇڏڻ آهي ته واقعو عوام آڏو ڪڏهن ۽ ڪيئن ظاهر ڪيو وڃي.“
ڪمپني نشاندهي ڪئي ته هن واقعي سان لاڳاپيل سڀني معاملن کي اهم نوعيت جي حفاظتي ڀڃڪڙي نه سمجهيو پئي وڃي.
هن وضاحت ڪئي، ”ڪجهه تنظيمون اسان طرفان فراهم ڪيل معلومات جو جائزو وٺي اهو نتيجو ڪڍي سگهن ٿيون ته معلومات ڄاڻي واڻي عوامي ڪئي وئي هئي يا ماڊل جي سرگرمي اهڙي نه هئي، جنهن تي ڳڻتي ٿيڻ گهرجي. ٻيون تنظيمون ڪنهن ڊزائن جي مسئلي يا حفاظتي ڪمزوري جي نشاندهي ڪري سگهن ٿيون، جنهن کي هو حل ڪرڻ چاهين ٿيون.“
ڪمپني چيو ته ڪيترن ئي واقعن کي ”ايجنٽ اسپيم“ چيو پيو وڃي، جنهن کي هن مصنوعي ذهانت وارن ايجنٽن جي ”غير متوقع يا ڳڻتي جوڳي“ سرگرمي قرار ڏنو، جيئن انٽرنيٽ تي معلومات پوسٽ ڪرڻ.
اوپن اي آءِ اهڙن واقعن کي جولاءِ ۾ پيش آيل هڪ واقعي کان پوءِ وڌيڪ سنجيدگي سان وٺڻ شروع ڪيو، جڏهن سندس مصنوعي ذهانت وارن ايجنٽن جي هڪ گروهه، جنهن کي ”سوارم“ چيو ويو، بغير ڪنهن هدايت جي مصنوعي ذهانت جي ڊولپر پليٽ فارم ”هگنگ فيس“ کي هيڪ ڪري ڇڏيو هو.
هگنگ فيس سڀ کان پهريان هن واقعي کي عوام آڏو آندو، جنهن کان پوءِ اوپن اي آءِ پڻ عوامي طور ان جي ذميواري قبول ڪئي.
هگنگ فيس جي سربراهه ڪليمينٽ ڊيلانگ اربع ڏينهن مصنوعي ذهانت بابت گڏيل قومن جي سلامتي ڪائونسل جي اجلاس دوران چيو: ”مان اڪثر سوچيندو آهيان ته جيڪڏهن مون هن حملي کي عوام آڏو ظاهر نه ڪرڻ جو فيصلو ڪيو هجي ها ته ڇا ٿئي ها.“
ڊيلانگ وڌيڪ چيو، ”خاص طور تي هاڻي جڏهن اسان کي خبر آهي ته اهڙا ئي واقعا ان کان ڪيترائي مهينا اڳ ڪجهه محدود تعداد ۾ جديد مصنوعي ذهانت تي ڪم ڪندڙ ليبارٽرين ۾ ڳجهي نموني پيش اچي رهيا هئا، جن جي نگراني نه ٿي رهي هئي.“
ساڳئي گڏيل قومن جي اجلاس دوران اوپن اي آءِ جي چيف ايگزيڪيوٽو آفيسر سام آلٽمين ۽ مقابلي واري ڪمپني اينٿروپڪ جي سربراهه ڊاريو امودي عالمي اڳواڻن کان مطالبو ڪيو ته اهي مصنوعي ذهانت جي حفاظت لاءِ عالمي معيار تيار ڪن ۽ اهڙن واقعن جي نگراني ۽ رپورٽنگ جا طريقا پڻ جوڙين.
اوپن اي آءِ ۽ اينٿروپڪ ٻنهي تازن هفتن ۾ چيو آهي ته اهي ٽئين ڌر جي جائزو وٺندڙن کي پنهنجين ڪمپنين اندر آڻيندا، جيڪي مصنوعي ذهانت جي اوزارن ۽ ماڊلز جي حقيقي وقت ۾ حفاظتي جاچ ڪندا. پر بي بي سي جي رپورٽ موجب، اهي جائزو وٺندڙ اڃا تائين ڪمپنين ۾ ڪم شروع نه ڪري سگهيا آهن.
اوپن اي آءِ جمعي ڏينهن چيو ته اها هن وقت پنهنجي مصنوعي ذهانت وارن ايجنٽن جي تربيت سان لاڳاپيل سرگرمين جو جائزو وٺي رهي آهي ۽ هگنگ فيس واري هيڪ کان وٺي ”ماهوار“ پوئتي وڃي هر معاملي جو جائزو وٺي رهي آهي.
ڪمپني چيو، ”هن وقت تائين سڃاڻپ ڪيل اڪثر ڪيسن جي شدت گهٽ رهي آهي، ۽ انهن مان اهم اثرن جا محدود يا ڪوبه ثبوت موجود ناهن. جائزي جي گهربل وڏي پيماني ۽ هر ڪيس جي تصديق ڪرڻ جي ضرورت کي نظر ۾ رکندي، هي ڪم مڪمل ٿيڻ ۾ ڪيترائي مهينا لڳندا.“
مونٽريال يونيورسٽي ۾ مشين لرننگ جي پروفيسر ۽ مصنوعي ذهانت جي حفاظت بابت ڪم ڪندڙ گروپ ”ايوٽيبل“ جي باني ڊيوڊ ڪروگر جمعي ڏينهن چيو ته مصنوعي ذهانت سان لاڳاپيل حفاظتي واقعن جي وڌندڙ انگ سبب هو ”سخت پريشان“ آهي.
هن مصنوعي ذهانت جي ترقي تي ”فوري، اڻ ڄاتل مدي واري ۽ عالمي پابندي“ لاڳو ڪرڻ جو مطالبو ڪيو.
ڪروگر چيو، ”اسان اڃا تائين اهو سمجهي نه سگهيا آهيون ته اڳ ۾ پيش آيل واقعن جو دائرو ڪيترو وسيع آهي، جڏهن ته مستقبل ۾ مصنوعي ذهانت جي قابو کان ٻاهر ٿيڻ جا منظرناما تباهه ڪندڙ ثابت ٿي سگهن ٿا.“
