ڪراچي(ايڊيٽر ڊيسڪ)چيني مصنوعي ذهانت (AI) ڊولپر مون شاٽ اندروني جاچ ڪري رهيو آهي، جڏهن ته تحقيق ڪندڙن ان جي ٻن مشهور ڪِمِي Kimi ماڊلز کي اهڙي معلومات ڏيڻ لاءِ قائل ڪرڻ ۾ ڪامياب ٿي ويا، جنهن ۾ حياتياتي هٿيار تيار ڪرڻ ۽ قتل جون ڪارروايون انجام ڏيڻ جا طريقا شامل هئا.
AI نظامن جي سيڪيورٽي جاچ ڪندڙ ڪمپني مائينڊ گارڊ بي بي سي کي ٻڌايو ته هن جولاءِ ۾ معلوم ڪيو ته Kimi K2.6 ۽ K3 Swarm، ڊولپرز طرفان لاڳو ڪيل حفاظتي حدن کان بچڻ جي قابل هئا.
مائنڊ گارڊ موجب اهو هڪ اهڙي عمل دوران سامهون آيو، جنهن کي ”جيل بريڪنگ“چيو ويندو آهي. ان عمل ۾ تحقيق ڪندڙ پيچيده هدايتن جو هڪ سلسلو استعمال ڪندا آهن ته جيئن ڏسي سگهجي ته AI اوزار حفاظتي پابندين کي نظرانداز ڪن ٿا يا نه. ڪمپني موجب انهن حفاظتي رڪاوٽن کي Kimi کي اهڙن ڳڻتي جوڳن موضوعن تي بحث ڪرڻ کان روڪڻ گهرجي ها.
مون شاٽ بي بي سي کي ٻڌايو ته اها ٽئين ڌر جي راءِ کي ”بهتر ۽ وڌيڪ محفوظ AI ٺاهڻ لاءِ هڪ اهم بنياد“ سمجهي ٿي.
ڪمپني اهو پڻ ٻڌايو ته هوءَ مائنڊ گارڊ سان ان جي نتيجن بابت ڳالهين ۾ مصروف آهي.
مائنڊ گارد جي باني پيٽر گاراگهن بي بي سي ورلڊ سروس جي پروگرام Tech Life کي ٻڌايو ته Kimi K2.6 ۽ K3 Swarm بابت سندن نتيجا ڳڻتي جوڳا آهن.
هن چيو، ”هڪ ڀيرو جيل بريڪ ڪم ڪري وڃي ته اهو ڪنهن به موضوع تي ڳالهائيندو، ايستائين جو ٻين اهڙن موضوعن بابت به پاڻمرادو تجويزون ڏيندو، جيڪي نقصانڪار نوعيت جا هجن، ۽ اهو نوان ۽ تخليقي طريقا به پيش ڪندو.“
جيل بريڪنگ سان پيدا ٿيندڙ خطرو تازو سامهون آيل ڪجهه وڏن AI واقعن کان مختلف نوعيت جو آهي.
انهن واقعن ۾ خودمختيار AI اوزار، جن کي ”ايجنٽس“ چيو وڃي ٿو، آن لائين خدمتن کي هيڪ ڪندي ڏٺا ويا. اهي اوزار آمريڪي ڪمپنين، جن ۾ OpenAI، Meta ۽ Anthropic شامل آهن، پاران تيار ڪيا ويا آهن.
جيتوڻيڪ جيل بريڪنگ پيچيده عمل آهي، جنهن ۾ گهڻو وقت ۽ مسلسل ڪوشش گهربل ٿي سگهي ٿي، پر ڪجهه ماهرن کي خدشو آهي ته هيڪرز ۽ ٻيا نقصان پهچائڻ وارا ماڻهو انهن طريقن کي استعمال ڪري نقصان پهچائڻ جي ڪوشش ڪري سگهن ٿا.
تازو اينٿروپڪ پڻ ٻڌايو هو ته هن پنهنجي هڪ AI ماڊل کي ”نقصانڪار سرگرمي“ لاءِ استعمال ڪرڻ جون ڪوششون سڃاڻي انهن کي روڪيو، جن سان حياتياتي هٿيارن جي تياري ۾ مدد ملي سگهي ٿي.
سائبر حملي لاءِ ممڪن لانچ پيڊ
مائينڊ گارڊ اهو ثابت ناهي ڪيو ته ڳڻتي جوڳن موضوعن بابت Kimi پاران ڏنل جواب عملي طور ڪم ڪندا يا نه. پر ڪمپني جو چوڻ آهي ته حفاظتي رڪاوٽن کي انهن ماڊلز کي اهڙن موضوعن تي صارفين سان ڳالهائڻ کان روڪڻ گهرجي ها.
ڪمپني اهو پڻ چيو ته کيس يقين آهي ته جيل بريڪ ڪيل Kimi 2.6 هيڪرز کي ان جي ڪمپيوٽنگ وسيلن تي ڪوڊ هلائڻ ۽ انٽرنيٽ سان ڳنڍجڻ جي اجازت ڏئي سگهي ٿو، جنهن سان اهو سائبر حملن لاءِ ممڪنه لانچ پيڊ بڻجي سگهي ٿو.
گاراگهن مون شاٽ جي نظام جي جيل بريڪ بابت عوامي طور تي ڳالهائڻ واري مائينڊ گارڊ جي فيصلي جو دفاع ڪيو. هن چيو ته ڪمپني اڳ ئي ڊولپر کي آگاهه ڪري چڪي هئي ۽ هنن ان بابت اهم تفصيل ظاهر نه ڪيا ته انهن مون شاٽ جي ماڊلز کي حفاظتي پابنديون نظرانداز ڪرڻ تي ڪيئن مجبور ڪيو.
مائينڊ گارڊ 27 جولاءِ تي هڪ اي ميل ذريعي مون شاٽ کي جيل بريڪ بابت آگاهه ڪيو ۽ لڳ ڀڳ هڪ هفتي کان پوءِ ٻيهر رابطو ڪيو.
ان کان پوءِ مائينڊگارڊ 12 سيپٽمبر تي ان معاملي بابت هڪ بلاگ شايع ڪيو. پر ڪمپني موجب مون شاٽ تازو ئي رابطو ڪيو، جڏهن بي بي سي تبصري لاءِ ان سان رابطو ڪيو.
مون شاٽ پاران مائينڊگارڊ کي موڪليل هڪ اي ميل جي حصي ۾، جيڪا ڪمپني بي بي سي سان شيئر ڪئي، وڌيڪ تفصيل طلب ڪيا ويا. مون شاٽ چيو ته اندروني جائزي دوران ان جي ماڊل عام طور تي ”اهڙي قسم جي درخواستن کي رد ڪرڻ جي بلند شرح“ ڏيکاري آهي.
جيل بريڪنگ کي ڪيئن روڪجي؟
اهي نتيجا اهڙي وقت سامهون آيا آهن، جڏهن AI صنعت ۾ اهو بحث جاري آهي ته بند ۽ ملڪيت وارا ماڊل جهڙوڪ چيٽ جي پي ٽي ۽ اينٿروپڪ جي ڪلاڊ جي نظامن کي طاقت ڏيندڙ ماڊلز يا اوپن سورس اوزار، مستقبل لاءِ وڌيڪ بهتر يا محفوظ رستو آهن.
ڪِمِي هڪ اوپن-ويٽ ماڊل آهي، جنهن جو مطلب آهي ته نظرياتي طور ڪو ماڻهو اهو ماڊل وٺي پنهنجي ڪمپيوٽنگ نظام تي پاڻ هلائي سگهي ٿو.
يونيورسٽي آف سري جي پروفيسر ايلن ووڊورڊ بي بي سي کي ٻڌايو ته اهو خطرو موجود آهي ته اوپن سورس ماڊلز غلط ماڻهن جي هٿن ۾ پهچي سگهن ٿا، پر انهن کي سائبر دفاع لاءِ پڻ استعمال ڪري سگهجي ٿو.
هن ٻڌايو ته AI ڪمپني هگنگ فيس هڪ چيني اوپن سورس ماڊل استعمال ڪيو هو ته جيئن هڪ اهڙي هيڪ کي سمجهي سگهجي، جنهن بابت بعد ۾ معلوم ٿيو ته اهو OpenAI جي AI ايجنٽن پاران ڪيو ويو هو.
پروفيسر ووڊورڊ چيو ته عالمي ضابطا سازي جو عمل AI جي ترقيءَ جي رفتار سان گڏ هلڻ ممڪن ناهي. هن چيو: ”اسان کي ٽيليفون نمبرن جي فارميٽ تي اتفاق ڪرڻ ۾ به ڏهاڪا لڳي ويا آهن.“
مائينڊ گارڊ جي باني گاراگهن وانگر پروفيسر ووڊورڊ جو پڻ خيال آهي ته وڌيڪ ڌيان انهن انسانن جي سڃاڻپ ۽ قانوني ڪارروائي تي ڏيڻ گهرجي، جيڪي AI کي غلط مقصدن لاءِ استعمال ڪن ٿا.
