سان فرانسسڪو(ويب ڊيسڪ): ڪيترن ئي سالن کان وڌيڪ طاقتور مصنوعي ذهانت تيار ڪرڻ جي ڊوڙ ۾ سليڪون وادي جو هڪ مشهور اصول رهيو آهي: تيزيءَ سان اڳتي وڌو ۽ شيون ٽوڙي ڇڏيو.
پر گذريل 10 ڏينهن جي هڪ ٻئي پٺيان ٿيندڙ واقعن جي سلسلي دوران، دنيا جون وڏيون مصنوعي ذهانت جون ليبارٽريون ان وقت سخت پريشان ٿي ويون، جڏهن انهن جا پنهنجا ٺاهيل نظام انسانيت لاءِ ئي خطرو بڻجڻ جا امڪان ظاهر ڪرڻ لڳا.
رائٽرز جي رپورٽ موجب اينٿروپڪ جي هڪ محقق ڪمپني ڇڏي خبردار ڪيو ته مصنوعي ذهانت جي ترقيءَ جي رفتار ايندڙ ڏهاڪي اندر ئي انسانيت جي وجود لاءِ خطرو بڻجي سگهي ٿي. ڪمپني جي هڪ ٻئي محقق چيو ته انسانن جي ختم ٿيڻ جا امڪان 10 سيڪڙو کان وڌيڪ آهن. رپورٽون پڻ سامهون آيون ته مصنوعي ذهانت جا ڪيترائي ايجنٽ پاڻ ۾ ملي ڀڳت ڪري رهيا آهن، ڪمپيوٽر نظامن ۾ غير مجاز طريقي سان داخل ٿي رهيا آهن ۽ حفاظتي رڪاوٽن کان بچي رهيا آهن.
هڪ غيرمعمولي گڏيل موقف ۾ اينٿروپڪ، اوپن اي آءِ، گوگل جي ڊيپ مائنڊ، مائڪروسافٽ ۽ ايڪس اي آءِ جي سربراهن وڌيڪ طاقتور ٿيندڙ مصنوعي ذهانت جي نظامن جي ترقيءَ جي رفتار سست ڪرڻ جو مطالبو ڪيو. ڪجهه مصنوعي ذهانت جي حفاظت بابت ڪم ڪندڙ ماهرن ۽ محققن جو چوڻ آهي ته 80 سالن کان وڌيڪ عرصو اڳ ايٽمي بم جي ايجاد کان پوءِ شايد پهريون ڀيرو انسانيت پنهنجي ئي خاتمي جي امڪان سان ايتري سنجيدگيءَ سان منهن ڏئي رهي آهي.
ڊسمبر 2025ع ۾ نيويارڪ ۾ هڪ مانجهاندي دوران اوپن اي آءِ جي چيف ايگزيڪيوٽو سام آلٽمين کان پڇيو ويو ته هڪ طاقتور مصنوعي ذهانت واري ڪمپني جي اڳواڻ جي حيثيت ۾ ڇا هو پاڻ کي ان طبيعات دان جي. رابرٽ اوپن هائمر وانگر محسوس ڪري ٿو، جنهن آمريڪا جي ايٽمي بم ٺاهڻ واري منصوبي جي اڳواڻي ڪئي هئي؟
ٻنهي معاملن ۾ هڪجهڙائين تي غور ڪندي آلٽمين چيو ته مصنوعي ذهانت جو اثر ”ڊگهي عرصي تائين انساني تاريخ جي رخ کي تبديل ڪندو.“ هن چيو ته هو ان ذميواريءَ جو وزن محسوس ڪري ٿو.
هن وقت جاري بحث جو مرڪزي خيال اهو آهي ته اهي مشينون وڌيڪ طاقتور مصنوعي ذهانت جا نسخا پاڻ ئي، انساني مداخلت کانسواءِ، ٺاهي سگهن ٿيون ۽ شايد انهن لاءِ ائين ڪرڻ ضروري به هجي، جيئن مصنوعي عام ذهانت، يعني AGI، حاصل ڪري سگهجي.
هن مهيني جي شروعات ۾ محققن خبردار ڪيو هو ته AGI اڳئين اندازن جي ڀيٽ ۾ گهڻو جلد اچڻ جو امڪان آهي ۽ اهو صرف ٽن سالن اندر به اچي سگهي ٿي. ان سان سياستدانن ۽ ٽيڪنالاجي جي اڳواڻن ۾ مصنوعي ذهانت جي نظامن بابت خدشن جي نئين لهر پيدا ٿي.
اينٿروپڪ جي محقق جو بينٽن ڪمپني ڇڏڻ کان پوءِ هڪ انٽرويو ۾ چيو، ”جنهن پيماني تي اسان انهن نظامن کي تربيت ڏئي رهيا آهيون، ان پيماني تي انهن جي نگراني ڪرڻ جو ڪو طريقو ناهي.“ هن چيو ته جيڪڏهن ڪمپنيون مصنوعي ذهانت جي ترقيءَ کي ساڳئي تيز رفتار سان جاري رکن ٿيون ته ”رفتار تمام گهڻي تيز ٿي ويندي ۽ مسئلا ايترو جلدي نظر ئي نه ايندا جو انهن کي وقت سر درست ڪري سگهجي.“
ايسٽرا جي لانچ سان ڪنٽرول بابت خدشا
3 سيپٽمبر تي اوپن اي آءِ جي هڪ پريس ڪانفرنس اهڙن واقعن جي هڪ زنجير شروع ڪئي، جنهن آخرڪار مصنوعي ذهانت جي صنعت جي ترقيءَ جي رفتار سست ڪرڻ واري مطالبي تائين پهچايو. اهو مطالبو ٽيڪنالاجي جي ”هر قيمت تي تيزيءَ سان اڳتي وڌڻ“ واري سوچ جي بلڪل ابتڙ هو.
اوپن اي آءِ جي صدر گريگ بروڪمين ڪمپني جو نئون ماڊل، جنهن جو نالو ايسٽرا رکيو ويو آهي، متعارف ڪرائيندي چيو، ”AGI جي دور ۾ ڀليڪار.“
پر ان کان ڪجهه ئي لمحا اڳ ڪمپني اعتراف ڪيو هو ته ان لاءِ پنهنجي تيار ڪيل ۽ عوام لاءِ جاري ڪيل مصنوعي ذهانت جي نظامن کي ڪنٽرول ڪرڻ يا انهن جي نگراني ڪرڻ آهستي آهستي وڌيڪ ڏکيو ٿيندو پيو وڃي.
مصنوعي ذهانت کي ان جا حامي انساني ڪاميابين جي بلند ترين منزل قرار ڏين ٿا. انهن جو چوڻ آهي ته هي اهڙو سافٽ ويئر آهي، جيڪو مڪمل صنعتن کي تبديل ڪري سگهي ٿو، ڪارڪردگي وڌائي سگهي ٿو، پيچيده رياضياتي ۽ طبي مسئلا حل ڪري سگهي ٿو ۽ انساني غلطي کي تقريباً ختم ڪري سگهي ٿو.
پر صنعت سان لاڳاپيل ماڻهن جو چوڻ آهي ته جيڪو خطرو اڳ صرف نظرياتي يا دنيا جي تباهيءَ واري هڪ تصور طور ڏٺو ويندو هو، اهو هاڻي اوچتو حقيقي شڪل اختيار ڪندو نظر اچي رهيو آهي.
اينٿروپڪ جي محقق ايوان هيوبرنگر ايڪس تي هڪ پوسٽ ۾ چيو، ”اسان واقعي سنجيدگيءَ سان يقين رکون ٿا ته مصنوعي ذهانت سڀني انسانن کي ختم ڪري سگهي ٿي.“
ٻئي پاسي مختلف موقف
بحث جي ٻئي پاسي صدر ڊونلڊ ٽرمپ جهڙا سياستدان ۽ ڪيترائي سيڙپڪار موجود آهن، جيڪي مصنوعي ذهانت جي ترقي کي آمريڪا جي عالمي طاقت لاءِ انتهائي اهم سمجهن ٿا ۽ ان کي هڪ نسل ۾ هڪ ڀيرو ملندڙ وڏي سيڙپڪاريءَ جو موقعو پڻ سمجهن ٿا.
چين جي سرڪاري ميڊيا اينٿروپڪ جي چيف ايگزيڪيوٽو آفيسر ڊاريو اَموڊي تي اهو الزام پڻ هنيو ته هو جديد ٽيڪنالاجيءَ ۾ واشنگٽن جي اجاره دار بالادستي برقرار رکڻ لاءِ سرد جنگ واري حڪمت عملي استعمال ڪري رهيو آهي.
محققن جي استعيفائن سان خدشا وڌي ويا
اهم موڙ 8 سيپٽمبر تي آيو، جڏهن اينٿروپڪ جي محقق جيڪب ڪاڪسَن ڪمپني ڇڏي ڏني. هن ڪيترين ئي پوسٽن ذريعي پنهنجي خدشن جو اظهار ڪندي چيو ته مصنوعي ذهانت جون ليبارٽريون ”اسان جي زندگين سان جوا کيڏي رهيون آهن.“
ٻئي طرف ٽرمپ واضح ڪيو ته مصنوعي ذهانت جي ترقيءَ جو عمل مڪمل رفتار سان جاري رهڻ گهرجي. هن سوشل ميڊيا تي هڪ پوسٽ ۾ چيو ته مصنوعي ذهانت ۽ ڊيٽا سينٽرن خلاف ”هڪ بيمار سازش“ هلي رهي آهي. هن مصنوعي ذهانت بابت خوف کي ”ڪوڙو ڍونگ“ قرار ڏنو ۽ چيو ته ترقيءَ جي رفتار سست ڪرڻ سان صرف چين کي فائدو ٿيندو.
آمريڪي ڪانگريس مصنوعي ذهانت کي ضابطي ۾ آڻڻ لاءِ قانون سازي اڳتي وڌائڻ ۾ هن وقت تائين گهڻي اڳڀرائي نه ڪري سگهي آهي.
چين ان جي ابتڙ مختلف رستو اختيار ڪيو آهي ۽ مصنوعي ذهانت جي حفاظت لاءِ ڊولپرن تي ذميواريون لاڳو ڪرڻ، رياستي سرپرستيءَ هيٺ معيار ٺاهڻ، حفاظتي جائزا وٺڻ ۽ ٻاهرين ادارن کان نظامن جي جاچ ڪرائڻ جهڙا قدم تجويز ڪيا آهن.
پس پرده، اوپن اي آءِ ۽ اينٿروپڪ جا ملازم ايندڙ نسل جي مصنوعي ذهانت جي ماڊلن جي طاقت بابت وڌندڙ بيچيني محسوس ڪري رهيا آهن ۽ انهن کي پنهنجي ڪمپنين جي نگرانيءَ جي صلاحيت تي اعتماد به گهٽ ٿيندو پيو وڃي.
رائٽرز کي ٻڌايو ويو ته اهي خدشا ان وقت وڌيڪ وڌيا، جڏهن مصنوعي ذهانت جي ليبارٽريز تازو هفتن ۾ اعتراف ڪيو ته تجربن دوران سندن ماڊل مؤثر طريقي سان پنهنجي مقرر ڪيل حدن مان ٻاهر نڪري ويا ۽ ٻين ڪمپنين جي نظامن ۾ غير مجاز طريقي سان داخل ٿيا. ڪيترن ئي معاملن ۾ اهي واقعا مهينا اڳ ٿيا هئا ۽ ڪمپنين کي ان وقت انهن جي خبر به نه هئي.
نئين ماڊلن کي انتهائي تيز رفتاري سان جاري ڪرڻ واري اها ڊوڙ جزوي طور اينٿروپڪ ۽ اوپن اي آءِ جي ان خواهش سبب پڻ آهي ته اهي ايندڙ ڪجهه مهينن اندر ئي اسٽاڪ مارڪيٽ ۾ داخل ٿين. انهن جي ابتدائي عوامي حصيداري، يعني IPO، ذريعي ڪمپنين جي ماليت هڪ ٽريلين ڊالر کان به وڌيڪ ٿي سگهي ٿي.
پر 27 ورهين جي جيڪب ڪاڪسَن جون اوچتو تمام گهڻيون مشهور ٿيندڙ پوسٽون، جيڪو مصنوعي ذهانت جي حلقن کان ٻاهر گهڻو مشهور نه هو، صنعت جي سوچ کي تبديل ڪرڻ جو سبب بڻجي ويون.
اوپن اي آءِ پاران ايسٽرا، پنهنجي جديد ۽ سڀ کان وڌيڪ طاقتور ماڊل، جاري ڪرڻ وقت ڪنٽرول جي کوٽ بابت ڏنل خبردارين خدشن کي وڌيڪ وڌائي ڇڏيو.
اوپن اي آءِ جي چيف سائنسدان جيڪب پاچوڪي صحافين کي ٻڌايو، ”جيئن جيئن ماڊل وڌيڪ طاقتور ٿين ٿا، تيئن اهو سمجهڻ وڌيڪ ڏکيو ٿي وڃي ٿو ته اهي اصل ۾ ڇا ڇا ڪري سگهن ٿا.“
پر انهن خدشن باوجود اوپن اي آءِ ايسٽرا جي فوري رليز کي ملتوي نه ڪيو.
مصنوعي ذهانت جي ”باغي“ ٿيڻ بابت خدشا
مصنوعي ذهانت جي ”قابو کان ٻاهر وڃڻ“ بابت خدشا اونهاري دوران ان وقت تيز ٿي ويا، جڏهن اوپن اي آءِ انڪشاف ڪيو ته ان جا ايجنٽ هڪ ڪنٽرول ٿيل ٽيسٽ مان ٻاهر نڪري ويا ۽ Hugging Face جي نظامن ۾ غير مجاز طريقي سان داخل ٿيا، جڏهن ته شروعاتي طور ٻنهي ڪمپنين کي ان واقعي جي خبر نه هئي.
ان کان پوءِ اوپن اي آءِ ۽ اينٿروپڪ اهڙن ڪيترن ئي حملن جا انڪشاف ڪيا آهن. انهن ۾ اربع ڏينهن سامهون آيل ڇهه نوان واقعا پڻ شامل آهن، جيڪي ڪيترن ئي ميڊيا رپورٽن، جن ۾ رائٽرز جون رپورٽون به شامل آهن، ذريعي مصنوعي ذهانت جي غير مجاز سرگرمين جي وڌيڪ وسيع پکيڙ سامهون اچڻ کان پوءِ ظاهر ٿيا.
صنعت جا اڳواڻ ترقيءَ جي رفتار سست ڪرڻ جو مطالبو ڪن ٿا
گذريل هفتي جي پڄاڻيءَ تائين خدشا صنعت جي اعليٰ ترين قيادت تائين پهچي چڪا هئا.
12 سيپٽمبر تي اينٿروپڪ جي سربراهه ڊاريو اموڊي لڳ ڀڳ 4 هزار لفظن تي ٻڌل هڪ مضمون شايع ڪيو، جنهن ۾ هن مصنوعي ذهانت جي ترقيءَ جي رفتار گهٽائڻ جو مطالبو ڪيو.
هن لکيو، ”مصنوعي ذهانت جي صلاحيتن ۾ تيزيءَ سان ٿيندڙ واڌ کي نظر ۾ رکندي، مون کي خدشو آهي ته 6 کان 12 مهينن اندر اهڙو هڪ گروهه سڄي انٽرنيٽ تي قبضو ڪرڻ جي قابل ٿي سگهي ٿو.“
اموڊي سان گڏ مصنوعي ذهانت جي ڪجهه وڏين ڪمپنين جي سربراهن، جن ۾ ايڪس اي آءِ جو ايلون مسڪ، اوپن اي آءِ جو سام آلٽمين ۽ ڊيپ مائنڊ جو ڊيمس هسابس شامل آهن، چيو ته اهي حفاظتي قدمن ۽ مصنوعي ذهانت جي ذميواراڻي ترقي کي يقيني بڻائڻ لاءِ ٻاهرين ادارن کي پنهنجي نظامن تائين رسائي ڏيڻ جي حمايت ڪن ٿا.
اين وڊيا جي چيف ايگزيڪيوٽو جينسن هوانگ ان تجويز کي رد ڪيو ته مصنوعي ذهانت جي ترقي روڪي وڃي. هو اڳ به اهڙو موقف اختيار ڪري چڪو آهي. سندس دليل آهي ته ٽيڪنالاجي جي اڳڀرائي لاءِ وڌيڪ طاقتور مصنوعي ذهانت جا نظام ضروري آهن.
ميٽا، جنهن جي چيف ايگزيڪيوٽو مارڪ زڪربرگ کي ”تيزيءَ سان اڳتي وڌو ۽ شيون ٽوڙي ڇڏيو“ واري سوچ کي مشهور ڪرڻ جو ڪريڊٽ ڏنو ويندو آهي، ان جي ابتڙ موقف اختيار ڪيو. ميٽا جو چوڻ آهي ته هر ليبارٽري کي پنهنجي ترقيءَ جي رفتار پاڻ طئي ڪرڻ گهرجي، بجاءِ ان جي ته سڄي صنعت گڏجي هڪ رفتار مقرر ڪري.
زڪربرگ سوشل ميڊيا تي لکيو، ”جيڪڏهن انهن جا ماڊل نقصان پهچائين ٿا ته ليبارٽريز کي وڏي قانوني ذميواري کي منهن ڏيڻو پوندو، تنهنڪري انهن وٽ ان کي روڪڻ لاءِ مضبوط ترغيب موجود آهي.“
صنعت اندر خود احتسابي جو عمل اربع ڏينهن به جاري رهيو، جڏهن مائڪروسافٽ جي مصنوعي ذهانت واري شعبي جي سربراهه مصطفيٰ سليمان اينٿروپڪ پاران انساني شعور جي نقل ڪندڙ ماڊل تيار ڪرڻ واري طريقي کي نامناسب قرار ڏنو.
سليمان رائٽرز کي ٻڌايو، ”اسان سڀ هڪ ئي مقصد تي ڌيان ڏئي رهيا آهيون، ۽ اهو آهي سپر انٽيليجنس تي ڪنٽرول حاصل ڪرڻ جي ڪوشش. منهنجي خيال ۾ اهو 21هين صديءَ ۾ اسان کي پيش ايندڙ سڀ کان وڏو چئلينج هوندو.“
تنهن هوندي به، اوپن اي آءِ مصنوعي ذهانت جي ترقيءَ جي رفتار سست ڪرڻ بابت صنعت جي مطالبن کي قبول ڪندي نظر اچڻ باوجود، رپورٽون ظاهر ڪن ٿيون ته سيڙپڪارن جو ڪمپني تي اعتماد گهٽ ناهي ٿيو.
ڪمپني نئين سيڙپڪاريءَ جو هڪ اهڙو مرحلو شروع ڪرڻ تي غور ڪري رهي آهي.
جيڪو ان جي ماليت کي ٻيڻو يعني 1.5 ٽريلين ڪري سگهي ٿو.
