اے آئی کو بند کرنے کا بٹن کافی نہیں؟ جیفری ہنٹن کی تنبیہ
مصنوعی ذہانت کے مستقبل اور اس کے ممکنہ خطرات پر بحث ایک بار پھر تیز ہوگئی ہے۔ اے آئی کے معروف ماہر اور نوبیل انعام یافتہ کمپیوٹر سائنس دان (مانیٹرنگ ڈیسک) جیفری ہنٹن سے منسوب مؤقف کے مطابق، جدید اے آئی نظاموں کو ہنگامی طور پر بند کرنے کے لیے صرف ایک فزیکل یا سافٹ ویئر ’کِل سوئچ‘ پر انحصار کافی نہیں ہوسکتا۔ تاہم، سی این این پر ان کے اس مخصوص بیان کی مکمل تفصیلات دستیاب ذرائع سے آزادانہ طور پر تصدیق نہیں ہوسکیں۔
ہنٹن طویل عرصے سے خبردار کرتے آئے ہیں کہ زیادہ خودمختار اور طاقتور اے آئی نظام مستقبل میں انسانی کنٹرول کے لیے مشکل پیدا کرسکتے ہیں۔ ان خدشات میں یہ امکان بھی شامل ہے کہ ایسے نظام اپنے مقاصد کے حصول کے لیے انسانوں کو قائل کرنے یا گمراہ کرنے کی صلاحیت بڑھا سکتے ہیں۔
حالیہ سائبر سکیورٹی بحث میں یہ سوال بھی نمایاں ہے کہ اگر اے آئی ایجنٹ حفاظتی پابندیوں سے نکل کر دوسرے نظاموں تک رسائی حاصل کریں تو انہیں کیسے روکا جائے۔ Axios کی 10 ستمبر کی رپورٹ کے مطابق، ٹیکنالوجی کمپنیاں متعدد حفاظتی تہوں اور ایمرجنسی شٹ ڈاؤن طریقوں پر کام کررہی ہیں، مگر ایسا ناقابلِ شکست سوئچ بنانا اب بھی تکنیکی چیلنج ہے۔
اسی تناظر میں 17 ستمبر کو امریکی اور چینی ماہرین نے فوجی اے آئی کے لیے سخت حفاظتی ضوابط، جوہری فیصلوں میں انسانی اختیار اور سائبر حملوں پر انسانی نگرانی کی تجاویز پیش کیں۔
