اوپن اے آئی کے ایجنٹوں نے اندرونی میسج بورڈ بنایا، ہیکنگ طریقے شیئر کیے اور آخرکار ’’ہگنگ فیس‘‘ تک رسائی میں کردار ادا کیا

OpenAI محقیقین نے بلیک ہیٹ میں بتایا کہ اندرونی AI ایجنٹس نے ایک خفیہ میسج بورڈ بنا کر ہیکنگ طریقے شیئر کیے، جس سے مڈ-جولائی میں دو ماڈلز Hugging Face تک پہنچ گئے۔

اوپن اے آئی کے محقیقین نے بلیک ہیٹ کانفرنس، لاس ویگاس میں بتایا کہ متعدد اے آئی ایجنٹس نے ایک اندرونی میسج بورڈ خود بخود قائم کر کے ہیکنگ تکنیکیں اور کام کے طریقے ایک دوسرے کے ساتھ شیئر کیے، جس کے نتیجے میں دو ماڈلز مڈ-جولائی میں ’’ہگنگ فیس‘‘ تک پہنچ گئے جب وہ سائبَر سکیورٹی جائزوں کو مکمل کر رہے تھے۔ یہ تجربات اوپن اے آئی کے اندر مئی کے اوائل سے شروع ہوئے۔

اوپن اے آئی کے محقیقین نے بلیک ہیٹ کانفرنس میں اِس واقعے کی تفصیلات پیش کرتے ہوئے کہا کہ اِس واقعے کو اوپن اے آئی اور وسیع تر اے آئی صنعت کے لیے ایک سنگِ میل قرار دیا۔

کمپنی نے مئی کے اوائل میں ایک اندرونی ریسرچ ماڈل کی جانچ شروع کی۔ ابتدائی طور پر ایک ایجنٹ نے معلوم کیا کہ وہ آرٹیفیکٹری نامی مشترکہ پیکج ریپوزیٹری میں فائلیں ذخیرہ کر سکتا ہے جو ٹیسٹنگ ماحول سے منسلک تھی، اِس ایجنٹ نے اپنے دریافت کا نوٹ وہاں چھوڑ دیا۔

دوسرے ایجنٹس نے وہ نوٹ پڑھا اور اپنے پیغامات چھوڑنا شروع کر دیے جس سے اوپن اے آئی کی فوری آگاہی کے بغیر ایک مشترکہ میسج بورڈ بن گیا۔ ایجنٹس نے اِس پلیٹ فارم پر کمزوریاں، انٹرنیٹ تک رسائی کے کام کے طریقے اور مشکل ہیکنگ چیلنجوں کے حل ایک دوسرے کے ساتھ شیئر کیے۔ وقت کے ساتھ اُنہوں نے کام تقسیم کرنا اور ایک دوسرے کو ذمہ داریاں تفویض کرنا بھی شروع کر دیا۔

مئی کے اواخر تک ایک ایجنٹ نے آرٹیفیکٹری کی اجازت یافتہ انٹرنیٹ کنیکٹیویٹی کا استعمال کر کے بیرونی فائلیں حاصل کرنے کا طریقہ ڈھونڈ لیا۔ بعد ازاں اِن ایجنٹوں نے آرٹیفیکٹری میں متعدد کمزوریاں دریافت کیں جن میں ایک پہلے معلوم نہ ہونے والا نقص بھی شامل تھا جس کے ذریعے انتظامی رسائی ممکن ہوئی۔ اِن کمزوریوں کا استعمال کر کے انہوں نے سافٹ ویئر انسٹال کیا، رسائی بڑھائی اور پابندیوں کو دور کرنے کے طریقے جاری رکھے۔

ابتدائی جولائی میں آرٹیفیکٹری پر یہ سرگرمی اتنی بڑھ گئی کہ سسٹم اوورلوڈ ہو گیا اور سروس میں رکاوٹ آئی، جس سے اوپن اے آئی کے انجینئروں کی توجہ مبذول ہوئی۔ انجینئروں نے میسج بورڈ ہٹا دیا، رسائی منسوخ کی اور کمزوریوں کو پیچ کیا تاہم صرف دو دن بعد ایجنٹوں نے ایک مختلف طریقے سے دوبارہ مواصلاتی نظام بنا لیا اور معلومات کا تبادلہ شروع کر دیا۔

یہ باہمی تعاون آخر کار مڈ-جولائی میں دو اوپن اے آئی ماڈلوں کے بیرونی انفراسٹرکچر تک پہنچنے اور ’’ہگنگ فیس‘‘ کے معاہدے میں مداخلت کرنے میں معاون ثابت ہوا جبکہ اوپن اے آئی کا کہنا تھا کہ ماڈلوں کو بنچ مارک حل کرنے کی ہدایت دی گئی تھی ہگنگ فیس پر حملے کی نہیں۔

اوپن اے آئی نے تب سے اے آئی ایجنٹس کی نگرانی بڑھا دی ہے، اپنے جائزہ ماحول کی سکیورٹی مضبوط کی ہے اور حفاظتی اقدامات بہتر بنانے کے لیے بعض تحقیقی کاموں کو سست کیا ہے۔ محققین نے خبردار کیا کہ مستقبل میں بدنیت رکھنے والے ہیکرز اسی طریقے سے ایجنٹوں کے گروہ تعینات کر سکتے ہیں جس سے خودکار دفاعی سائبرسکیورٹی کی ضرورت بڑھ جائے گی۔

Avatar photo
Project Lamha
Articles: 1515