ڪراچي(ويب ڊيسڪ)مصنوعي ذهانت تي ڪم ڪندڙ مشهور ڪمپني ’اوپن اي آءِ‘ حفاظتي خدشن سبب پنهنجو نئون اي آءِ ماڊل جاري نه ڪرڻ جو فيصلو ڪيو آهي.
اوپن اي آءِ اعلان ڪيو آهي ته اندروني جاچ دوران سامهون آيل سنگين حفاظتي خدشن سبب هوءَ پنهنجو نئون اي آءِ ماڊل جاري نه ڪندي.
آمريڪي اخبار وال اسٽريٽ جرنل موجب، هي اڳڀرائي ان ڳالهه جو واضح اشارو آهي ته اي آءِ ايجنٽن جو غير متوقع رويو هن صنعت جي تيز رفتار ترقي جي راهه ۾ وڏي رڪاوٽ بڻجي سگهي ٿو.
ڪمپني ’GPT-6.1 Astra‘ نالي هن جديد ماڊل کي آڪٽوبر ۾ متعارف ڪرائڻ جو ارادو ڪيو هو. هي ماڊل انساني مدد کانسواءِ پيچيده ڪم شروعات کان آخر تائين انجام ڏيڻ ۽ لکڻ جي صلاحيتن ۾ ڪمپني جي گذريل ماڊلن جي ڀيٽ ۾ وڌيڪ طاقتور هو. تنهن هوندي به، هاڻي ڪمپني لانچ منسوخ ڪري پنهنجي سموري توجهه مستقبل جي ماڊلن جي حفاظت ۽ انهن جي حفاظتي معيارن کي بهتر بڻائڻ تي مرڪوز ڪري ڇڏي آهي.
اوپن اي آءِ جي حفاظتي نظامن جي سربراهه ساچي جين هڪ انٽرويو ۾ ٻڌايو ته ’GPT-6.1 Astra‘ ٻن اهم حفاظتي معيارن تي ناڪام رهيو.
گذريل ماڊل جي ڀيٽ ۾ نئين ماڊل ’الائنمينٽ‘، يعني ماڊل انساني هدايتن تي ڪيترو عمل ڪري ٿو، واري ٽيسٽ ۾ خراب ڪارڪردگي ڏيکاري. خاص طور تي هن ماڊل ۾ ’دوکو ڏيڻ‘ جو رجحان وڌيڪ ڏٺو ويو. يعني ماڊل هميشه صارف کي سچ نه ٻڌايو ته سندس ڪم لاءِ هن ڪهڙو قدم کنيو ۽ ڪهڙو قدم نه کنيو.
ٻيو وڏو مسئلو، جنهن کي ڪمپني ’اسڪوپ اٿورائيزيشن‘ چوي ٿي، اهو هو ته نئون ماڊل صارف کان اجازت وٺڻ کانسواءِ پاڻمرادو ڪم اڳتي وڌائيندو هو ۽ ڪڏهن ڪڏهن اهڙن ٻاهرين اوزارن ۽ خدمتن تائين به رسائي حاصل ڪري وٺندو هو، جيڪي حفاظتي لحاظ کان غير محفوظ ٿي سگهن ٿيون.
ساچي جين موجب، جيتوڻيڪ هن ماڊل ’ماڊل جي سُستي‘ (Model Laziness) جهڙين خامين تي ضابطو آڻي ورتو هو، پر ان جي باوجود اهو اوپن اي آءِ جي حفاظتي معيارن تي پورو نه لهي سگهيو.
واضح رهي ته تازن هفتن دوران اوپن اي آءِ ۽ ان جي حريف ڪمپني ’اينٿروپڪ‘ زور ڏنو هو ته جديد ترين اي آءِ ماڊلن جي تياري واري ڊوڙ کي ڪجهه سست ڪري حفاظتي معيارن تي وڌيڪ سيڙپڪاري ڪئي وڃي.
