قیامت خیز ٹیکنالوجی: کیا مصنوعی ذہانت واقعی انسانیت کو ختم کر سکتی ہے؟

دی اردو پوسٹ (مانیٹرنگ ڈیسک): مصنوعی ذہانت کے محققین کی سخت وارننگز کہ ٹیکنالوجی کی جدید ترین شکلیں انسانیت کو صفحۂ ہستی سے مٹا سکتی ہیں، اس سوال کو جنم دیتی ہیں کہ آیا حکومتیں اسے قابو میں رکھنے کے لیے کافی تیزی سے قوانین بنا رہی ہیں یا نہیں۔

’سپر انٹیلیجنٹ‘ کمپیوٹر سسٹمز کے ممکنہ خطرات کیا ہیں اور کیا ہمیں پریشان ہونا چاہیے؟

اے آئی ماہرین طویل عرصے سے اس خطرے کو نہایت سنگین قرار دیتے آئے ہیں۔ 2023 میں سینکڑوں سائنس دانوں اور صنعت کے رہنماؤں، بشمول امریکہ کی بڑی لیبارٹریوں کے سربراہان نے ’اے آئی کے ذریعے انسانیت کے خاتمے کے خطرے‘ پر ایک بیان پر دستخط کیے جس میں کہا گیا کہ اس مسئلے کو وباؤں یا ایٹمی جنگ جتنا سنجیدہ سمجھا جانا چاہیے۔

کیلیفورنیا یونیورسٹی برکلے کے کمپیوٹر سائنس پروفیسر سٹورٹ رسل نے کہا کہ اگر مستقبل کا بے قابو اے آئی یہ طے کر لے کہ انسان اس کے مقاصد میں رکاوٹ ہیں تو وہ روبوٹس کے ذریعے ’نئے جراثیم تیار اور پھیلا‘ سکتی ہے، یا پھر وہ ’لوگوں کو ایٹمی جنگ شروع کرنے پر آمادہ کر سکتی ہے، حتیٰ کہ ابتدائی وارننگ سسٹمز کو ہیک کر کے۔‘۔

انہوں نے زور دیا کہ موجودہ اے آئی سسٹمز ایسے وجودی خطرات پیدا نہیں کرتے۔ لیکن جیسے جیسے ٹیکنالوجی بہتر ہوتی جائے گی، یہ ایسے مہلک اقدامات کر سکتی ہے جو ہماری سمجھ سے باہر ہوں، مثلاً فضا سے آکسیجن ختم کر دینا۔ ’ہم سپر انٹیلیجنٹ اے آئی سے کم ذہین ہیں۔ اگر آپ بندروں سے پوچھیں کہ انسان انہیں کیسے ختم کر سکتے ہیں، تو شاید وہ تمام درست جوابات نہ دے سکیں۔‘۔

رسل کے مطابق ’فی الحال اگلے ایک یا دو سال میں سب سے بڑا خطرہ انسانی غلط استعمال سے ہے جیسے کہ اے آئی کے ذریعے دہشت گرد حملہ۔

اے آئی لیبارٹریاں کیوں نہیں رک جاتیں؟

27 سالہ محقق جیکب کاکسن نے اس ہفتے امریکی اے آئی سٹارٹ اپ ’انتھروپک‘ سے استعفیٰ دیتے ہوئے ایکس پر لکھا کہ ’خطرات سب کو معلوم ہیں، لیکن وہ سب ایک دوڑ میں بندھے ہیں کہ پہلے کون پہنچتا ہے۔‘۔

انتھروپک نے اس سال اپنے حفاظتی چارٹر سے وہ وعدہ ہٹا دیا کہ اگر وہ خطرات پر قابو نہ پا سکے تو ماڈلز کی ترقی روک دے گا۔ اس کا مؤقف تھا کہ اگر وہ یکطرفہ طور پر رک جائے تو اس کے کم محتاط حریف صنعت پر حاوی ہو جائیں گے، جس سے مجموعی طور پر دنیا کم محفوظ ہو گی۔

کاکسن، جو پہلے چیٹ جی پی ٹی بنانے والی کمپنی اوپن اے آئی میں کام کر چکے ہیں، نے کہا : کہ ’اے آئی بنانے والے لوگ واقعی یقین رکھتے ہیں کہ یہ دہائی کے آخر تک ہم سب کو مار سکتی ہے۔‘ انہوں نے دونوں کمپنیوں پر الزام لگایا کہ وہ ’ہماری زندگیوں سے جوا کھیل رہے ہیں تاکہ خود کو بہتر بنانے والے ماڈلز تیار کر سکیں۔‘۔

خوف اس وقت بڑھ گیا جب اوپن اے آئی کی ٹیکنالوجی، انسانی نگرانی سے باہر، اے آئی ماڈلز کے ذخیرے ’ہگنگ فیس‘ میں ہیک کر گئی۔ انتھروپک کے سیفٹی ایگزیکٹو ایون ہیوبنگر نے بھی ایکس پر کہا کہ ’ہم واقعی یقین رکھتے ہیں کہ اے آئی تمام انسانوں کو مار سکتی ہے۔‘ اور اگلی دہائی میں اس خطرے کو 10 فیصد سے زیادہ قرار دیا۔

یونیورسٹی آف نیو ساؤتھ ویلز، کینبرا کے کمپیوٹنگ پروفیسر حسین عباس نے کہا کہ ’خوفناک پیش گوئیاں بالکل غیر سائنسی ہیں۔ صورتحال اب بھی قابو میں ہے اور اسے سنبھالا جا سکتا ہے۔‘۔

لیکن انہوں نے زور دیا کہ حکومتوں کو ہاتھ پر ہاتھ دھرے نہیں بیٹھنا چاہیے، بلکہ جیسے جیسے اے آئی کی ترقی تیز ہو رہی ہے، ایک ریگولیٹری طریقہ اپنانا چاہیے۔

کچھ ناقدین کا کہنا ہے کہ قیامت خیز وارننگز اے آئی کو طاقتور اور سرمایہ کاری کے قابل ظاہر کرتی ہیں۔ دوسروں کا کہنا ہے کہ انسانیت کے خاتمے کے خطرے پر توجہ دینا ان مسائل سے توجہ ہٹاتا ہے جو پہلے ہی موجود ہیں، جیسے نوکریوں کا ختم ہونا یا مشینوں کا اقلیتوں کے خلاف امتیاز۔

جولائی میں ایک ہزار سے زیادہ ٹیک ملازمین، بشمول انتھروپک کے سی ای او نے واشنگٹن سے مطالبہ کیا کہ جدید ترین اے آئی سسٹمز کی ترقی کو سست کرنے کے لیے مربوط اقدامات کیے جائیں۔ اوپن اے آئی نے اگست میں اپنے تازہ ترین ماڈلز کی تربیت دو ہفتوں کے لیے روک دی، پھر سخت کنٹرولز کے تحت دوبارہ شروع کیا۔

اب تک امریکہ عالمی سطح پر اس شعبے کی ریگولیشن کے خلاف رہا ہے، کیونکہ اس سے جدت رک سکتی ہے۔ لیکن جدید ترین ماڈلز کی بے مثال ہیکنگ صلاحیتوں نے واشنگٹن کو سوچنے پر مجبور کر دیا ہے، اور حالیہ انتھروپک و اوپن اے آئی ریلیز قومی سلامتی کے خدشات کے باعث مؤخر کر دی گئی ہیں۔

صدر ڈونلڈ ٹرمپ نے کہا ’ہم نہیں چاہتے کہ ہم پر ایسی پابندیاں لگیں کہ اچانک ہم چین سے پیچھے رہ جائیں۔‘۔

رسل نے کہا کہ ’شاید حکومتوں کو حرکت میں آنے کے لیے ایک بڑی، چرنوبل جیسی تباہی درکار ہوگی۔‘۔

انہوں نے زور دیا کہ اے آئی کے لیے لائسنسنگ نظام قائم کیا جائے، جیسا کہ ہوابازی، طب یا پانی کی فراہمی میں ہوتا ہے۔ ’شاید کسی وقت حکومتوں کو یاد آ جائے کہ ان کے ووٹر زندہ رہنا زیادہ پسند کرتے ہیں۔‘۔