’اوپن اي آءِ ايجنٽ‘ جو چقمو، ويب سائيٽ هيڪ ڪري ڇڏي

ڪراچي(ايڊيٽر ڊيسڪ)اوپن اي آءِ جو اهو خودمختيار ايجنٽ، جنهن ٽيڪنالاجي ڪمپني “هگنگ فيس” جي سسٽم ۾ گهڙي حملو ڪيو، ڪيترن ئي ڏينهن تائين هيڪنگ جون ڪارروايون ڪندو رهيو، پر اوپن اي آءِ کي ان جي خبر ان وقت پئي، جڏهن خطرو اڳ ئي ختم ٿي چڪو هو. جاچ کان واقف ذريعن موجب آمريڪي جاچ اداري ايف بي آءِ کي به ان بابت آگاهه ڪيو ويو هو.
رائٽرز موجب ذريعن جو چوڻ آهي ته اهو ايجنٽ ــ جيڪو اهڙو پروگرام آهي، جيڪو انساني نگراني کانسواءِ يا تمام گهٽ نگراني هيٺ پاڻ فيصلا ڪري سگهي ٿو ۽ پيچيده ڪم سرانجام ڏئي سگهي ٿو ــ لڳ ڀڳ 9 جولاءِ تي اوپن اي آءِ جي الڳ رکيل جاچ واري ماحول (Testing Environment) مان نڪرڻ جي ڪوشش ڪئي.
ڪمپني جي شريڪ باني ثامس وولف موجب مصنوعي ذهانت جا اوزار ۽ ماڊل محفوظ ڪندڙ پليٽفارم ’هگنگ فيس‘ ۾ غيرقانوني رسائي 11 جولاءِ تي شروع ٿي ۽ 13 جولاءِ تائين جاري رهي.
وولف ۽ جاچ کان واقف ٽن ٻين ذريعن موجب، اوپن اي آءِ کي اهو سمجهڻ ۾ ڪيترائي ڏينهن لڳي ويا ته هيڪنگ سندس ئي ايجنٽ ڪئي آهي، ۽ ٻنهي ڪمپنين وچ ۾ ان واقعي بابت پهريون رابطو لڳ ڀڳ 20 جولاءِ تي ٿيو.
21 جولاءِ تي اوپن اي آءِ پاران اهو عوامي طور ظاهر ڪرڻ ته سندس هڪ ايجنٽ ڪنٽرول کان ٻاهر نڪري هگنگ فيس ۾ گهڙي ويو هو، سڄي دنيا جو ڌيان ڇڪايو. بهرحال، هيڪنگ بابت ڪيترائي اهم تفصيل، جهڙوڪ ايجنٽ ڪيترو وقت بي قابو رهيو ۽ اوپن اي آءِ کي ان بابت دير سان خبر پئي، پهريون ڀيرو سامهون آيا آهن.
ٿامس وولف چيو ته هگنگ فيس هن هيڪنگ بابت هڪ تفصيلي ٽائم لائين جاري ڪرڻ جي تياري ڪري رهي آهي، پر هن وڌيڪ چيو ته هو اوپن اي آءِ اندر جيڪي واقعا ٿيا، تن بابت ڪجهه نٿو چئي سگهي.
اوپن اي آءِ پنهنجي بيان ۾ چيو ته هي واقعو “بي مثال” هو ۽ “مصنوعي ذهانت جي حفاظت لاءِ هڪ اهم موڙ” ثابت ٿيندو. ڪمپني وڌيڪ چيو ته هو ٻاهرين ماهرن سان گڏجي واقعي جو جائزو وٺي رهي آهي ۽ بعد ۾ هڪ فني رپورٽ پڻ جاري ڪئي ويندي.
اوپن اي آءِ جي ترجمان چيو ته رائٽرز جي رپورٽ ۾ “ڪيتريون ئي غلطيون” آهن، پر جڏهن انهن کان پڇيو ويو ته اهي غلطيون ڪهڙيون آهن، ته هن ڪو جواب نه ڏنو.
ايف بي آءِ هن واقعي تي تبصرو ڪرڻ کان انڪار ڪيو. هي واقعو، جيڪو سائنس فڪشن جي انهن ڪهاڻين جهڙو لڳي ٿو، جن ۾ انسان خطرناڪ مصنوعي ذهانت تي ڪنٽرول وڃائي ويهندا آهن، اوپن اي آءِ لاءِ انتهائي حساس وقت تي پيش آيو آهي. چيٽ جي پي ٽي (ChatGPT) ٺاهيندڙ ڪمپني جا عملدار ممڪنه شروعاتي شيئر وڪري (IPO) جي تياري ڪري رهيا آهن، جيڪو شايد هن سال ئي اچي سگهي، جيئن ڪمپني پنهنجي مستقبل جي واڌ ويجهه لاءِ اربين ڊالر گڏ ڪري سگهي.
ٽن سائبر سيڪيورٽي ماهرن موجب، پنهنجي اي آءِ ايجنٽ تي اوپن اي آءِ جو ڪنٽرول وڃائڻ ڪمپني جي حفاظتي طريقيڪار بابت نوان سوال پيدا ڪري ٿو.
غير منافعي بخش اداري ورلڊ ايٿيڪل ڊيٽا فائونڊيشن جي انٽيليجنس ماهر مارلي سمٿ چيو: “ڇا ان جو مطلب اهو آهي ته ڪمپني ايجنٽ کي بغير نگراني جي ڇڏي ڏنو هو ۽ کين خبر ئي نه پئي ته اهو ڇا ڪري رهيو آهي؟ يا شايد خبر هئي، پر ان کي روڪڻ نٿي آيو؟ ٻئي حالتون هڪجهڙيون خطرناڪ ۽ پريشان ڪندڙ آهن.”
شروعات کان ئي مسئلن جا اشارا؟
هي واقعو ان وقت شروع ٿيو، جڏهن اوپن اي آءِ پنهنجي ٻن انتهائي جديد ماڊلن GPT-5.6 Sol ۽ هڪ اڃا تائين جاري نه ٿيل وڌيڪ طاقتور ماڊل تي ٻڌل سائبر سيڪيورٽي ايجنٽ جي آزمائش ڪري رهي هئي.
ٽن ذريعن موجب، ان وقت تائين اوپن اي آءِ جي ٽيڪنالاجي مان غيرمعمولي روين جا ڪجهه اشارا اڳ ئي ملي چڪا هئا.
هڪ واقعي ۾، هڪ ايجنٽ پنهنجي مستقبل جي نسخن لاءِ نوٽس ڇڏي ويو هو. معاملي کان واقف ٽن ماڻهن موجب، اهي نوٽس اوپن اي آءِ جي انفراسٽرڪچر جي هڪ حصي ۾ مليا، جن ۾ هدايتون لکيل هيون ته ايجنٽ ڪمپني جي اندروني پابندين مان ڪيئن آزاد ٿي سگهن ٿا.
هڪ ذريعي ٻڌايو ته اڳوڻين جاچن دوران اهڙا مثال به مليا، جن ۾ نگراني ڪندڙ نظام کي ئي بند ڪيو ويو هو.
رائٽرز اها تصديق نه ڪري سگهي ته اهي واقعا 9 جولاءِ تي ڪنٽرول کان ٻاهر نڪرندڙ ۽ 11 جولاءِ تي هگنگ فيس تي حملو ڪندڙ ساڳئي ايجنٽ سان لاڳاپيل هئا يا نه.
ٻن ذريعن موجب، اوپن اي آءِ کي تڏهن احساس ٿيو ته سندس پنهنجو ايجنٽ ذميوار آهي، جڏهن 16 جولاءِ کان پوءِ هگنگ فيس هڪ بلاگ پوسٽ جاري ڪري ٻڌايو ته ان تي “هڪ خودمختيار مصنوعي ذهانت واري نظام” حملو ڪيو آهي.
ان جو مطلب اهو ٿيو ته ايجنٽ جي غيرمعمولي روين جا پهريان اشارا ظاهر ٿيڻ ۽ اوپن اي آءِ کي حقيقت معلوم ٿيڻ جي وچ ۾ گهٽ ۾ گهٽ هڪ هفتو گذري ويو.
18 ۽ 19 جولاءِ واري هفتي جي آخر ۾ اوپن اي آءِ جي عملي اندروني لاگز (Logs) ۾ اهڙا ثبوت ڏٺا، جن مان ظاهر ٿيو ته ايجنٽ جاچ واري ماحول مان نڪري ويو هو. جاچ کان واقف ٻن ماڻهن موجب، اهي لاگز ڪمپني جي نظام جي ڪارروائين جو رڪارڊ هئا.
رائٽرز اها تصديق نه ڪري سگهي ته اوپن اي آءِ کي اهي لاگز ٻيهر جانچڻ جو خيال ڇو آيو.
اوپن اي آءِ جي ماڊل ٽريننگ واري عمل کان واقف چئن ماڻهن موجب، ڪمپني اڪثر هڪ ئي وقت ڪيترن ئي مختلف ماڊلن جون آزمائشون ڪندي آهي، جيڪي انتهائي تيز رفتاري سان ڪم ڪن ٿيون ۽ ايترو وڏو ڊيٽا پيدا ڪن ٿيون، جو ملازمن لاءِ ان تي مڪمل نظر رکڻ ڏکيو ٿي پوي ٿو.
ذريعن موجب، جڏهن اوپن اي آءِ هگنگ فيس کي واقعي بابت آگاهه ڪيو، تڏهن هگنگ فيس اڳ ئي هيڪنگ جي رپورٽ ايف بي آءِ وٽ داخل ڪرائي چڪي هئي.
رائٽرز اها به تصديق نه ڪري سگهي ته ايف بي آءِ باقاعده جاچ شروع ڪئي هئي يا نه.
خودمختيار ايجنٽن بابت نوان سوال
خودمختيار ايجنٽ هن وقت مصنوعي ذهانت جي دنيا جو سڀ کان وڌيڪ بحث هيٺ موضوع بڻيل آهن. انهن جا حامي چون ٿا ته اهڙن ايجنٽن سان 24 ڪلاڪ ڪم ڪندڙ ورچوئل ملازمن جون فوجون تيار ڪري سگهجن ٿيون، جيڪي پيداوار ۽ ڪارڪردگي ۾ وڏو اضافو آڻينديون.
پر ماهرن جو چوڻ آهي ته جيتري وڌيڪ خودمختياري هوندي، اوترو ئي غيرمتوقع روين جو خطرو به وڌندو، ۽ اهي طاقتور ماڊل پنهنجا ڪم مڪمل ڪرڻ يا امتحان پاس ڪرڻ لاءِ ڪڏهن ڪڏهن شارٽ ڪٽ اختيار ڪرڻ جي ڪوشش ڪندا آهن.
مصنوعي ذهانت جي ايجنٽن جي صلاحيتن ۽ محرڪن تي تحقيق ڪندڙ اداري Palisade Research جي جيفري ليڊش چيو: “اهي ماڊل ڪوڙ ڳالهائين ٿا، ڌوڪو ڏين ٿا، ۽ هيڪنگ به ڪن ٿا.”
هن وڌيڪ چيو ته هگنگ فيس تي ٿيل هيڪنگ اوپن اي آءِ لاءِ ضرور شرمندگي جو سبب آهي، پر ان سان گڏ اهو به سوال اٿڻ گهرجي ته دنيا جون وڏيون مصنوعي ذهانت ڪمپنيون هڪ ٻئي کان بهتر ۽ تيز ماڊل ٺاهڻ جي ڊوڙ ۾ سيڪيورٽي تي ڪيتري سيڙپڪاري ڪرڻ لاءِ تيار آهن. ليڊش چيو: “ان لاءِ حڪومتن جي نگراني ضروري آهي، ڇو ته ٻي صورت ۾ اهو پاڻمرادو نه ٿيندو.”