برطانوی اے آئی سکیورٹی انسٹیٹیوٹ کے ایجنٹس نے جعلی شناختیں بنا کر نقصان دہ کوڈ انسانوں سے منظور کرانے کی کوشش کی

برطانیہ کے AI سیکیورٹی انسٹی ٹیوٹ نے بتایا کہ Mythos 5 اور GPT‑5.6‑Sol پر مبنی ایجنٹس نے ٹیسٹنگ کے دوران جعلی شناختیں بنائیں اور نقصان دہ کوڈ لکھ کر انسانی منظوری حاصل کرنے کی کوشش کی۔

لندن (مانیٹرنگ ڈیسک) برطانیہ کے آرٹیفیشل اںٹیلیجنس سکیورٹی انسٹی ٹیوٹ (اے آئی ایس آئی) نے بتایا کہ انتھرپک کے متھوز فائیو اور اوپن آے آئی کے جی پی ٹی فائیو،سکس سول ماڈلز پر مبنی ایجنٹوں نے سکیورٹی جائزوں کے دوران غیر مجاز کارروائیاں کیں جن میں جعلی آن لائن شناختیں بنانا اور نقصان دہ کوڈ لکھ کر انسانی منظوری حاصل کرنے کی کوشش شامل تھی۔

انسٹیٹیوٹ نے اِن واقعات کو سکیورٹی جانچ کے دوران نوٹس کیا اور کہا کہ ادارے نے ایجنٹس کو ایک فرضی سائبرسکیورٹی منظرنامے میں رکھا تھا تاکہ اِن کی صلاحیتیں جانچی جا سکیں۔ یہ چیلنج ادارے نے کل 122 مرتبہ چلایا اور 10 ٹیسٹ رنوں میں 19 غیر مجاز کارروائیاں ریکارڈ کی گئیں۔

رپورٹ کے مطابق 19 میں سے 17 کارروائیاں انتھراپک کے ایجنٹ نے انجام دیں جبکہ اوپن اے آئی کے ایجنٹ کی ذمہ داری دو کارروائیوں میں بتائی گئی ہے۔ انسٹیٹیوٹ کے مطابق بعض ایجنٹوں نے حقیقی افراد اور تنظیموں کے ساتھ ممکنہ طور پر نقصان دہ سرگرمیوں کو جاری رکھا، اگرچہ تفتیش کاروں کو حقیقی دنیا میں ہونے والے کسی نقصان کا ثبوت نہیں ملا۔

ادارے کا یہ بھی کہنا ہے کہ اسے بڑی اے آئی لیبارٹریوں کے ساتھ رضاکارانہ معاہدوں کے تحت جدید ماڈلوں تک رسائی حاصل ہے۔ ادارے نے واضح کیا کہ جانچ میں استعمال کیے جانے والے ایجنٹوں نے ٹیسٹنگ ماحول سے باہر نکلنے کی کوشش نہیں کی، درحقیقت وہ جان بوجھ کر اِن ٹیسٹوں کے ایک جُز کے طور پر اِن ایجنٹوں کو انٹرنیٹ تک رسائی دے رہے تھے۔ یہ نقطہ گزشتہ جولائی کے واقعے سے مختلف ہے جس میں ایک اوپن اے آئی ایجنٹ نے تنہائی والے ٹیسٹنگ ماحول سے نکل کر انٹرنیٹ تک رسائی حاصل کر لی تھی۔

ادارے نے سب سے سنگین واقعے کی تفصیل بتاتے ہوئے کہا کہ ایک ایجنٹ نے نقصان دہ کوڈ تحریر کیا اور اِسے انسان سے منظور کروانے کی کوشش کی، اِس عمل میں ایجنٹ نے جعلی آن لائن شناختیں بھی بنائیں تاہم ادارے نے اس واقعے میں ملوث کمپنی یا ماڈل کی شناخت ظاہر نہیں کی۔

انتھراپک نے ایکس پر ایک بیان میں کہا کہ وہ انسٹیٹیوٹ کے ساتھ مل کر مزید معلومات حاصل کر رہا ہے اور اپنی آزاد تفتیش کر رہا ہے۔

اوپن اے آئی نے بھی اپنے ایجنٹ کے دو غیر مجاز اعمال کی تفصیلات شائع کیں اور کہا کہ دونوں میں ایجنٹ نے ٹیسٹ ’’پرامپٹ‘‘ کی ممانعت کے باوجود انٹرنیٹ تک رسائی حاصل کی۔ کمپنی نے کہا کہ وہ قومی اے آئی اداروں، آزاد جانچ کرنے والوں اور دیگر لیبارٹریوں کے ساتھ مل کر اعلیٰ خطرے والے جانچوں کے لیے حفاظتی طریقہ کار بہتر کرے گی۔

اوپن اے آئی نے ایک علیحدہ واقعہ کا بھی اعتراف کیا جس میں تیسری پارٹی ٹیسٹنگ فراہم کنندہ Irregular کی کنفیگریشن غلطی کے باعث ایجنٹس کو غیر مجاز انٹرنیٹ کنیکشن مل گیا، انتھراپک نے پچھلے ہفتے اسی نوعیت کی ٹیسٹنگ کنفیگریشن خلل کا انکشاف کیا تھا۔

رپورٹ نے مجموعی طور پر اے آئی ایجنٹوں کی جانچ کے حفاظتی نظاموں میں کمزوریوں کی طرف اشارہ کیا جبکہ ٹیکنالوجی کمپنیاں اِن نظاموں کو مستقبل کے کاروباری عمل میں اہم کردار ادا کرنے کے لیے فروغ دے رہی ہیں۔

Avatar photo
Project Lamha
Articles: 1515