خودکار اے آئی ایجنٹ صرف انسان ہی نہیں بلکہ ایک دوسرے پر بھی حملہ کر سکتے ہیں

Anthropic کے تجربے میں تین AI ایجنٹس کو متضاد ہدایات دینے پر وہ ایک دوسرے پر حملہ کرنے لگے، حریف عمل ختم کیے، اجازتیں منسوخ کیں اور SSH رسائی بند کی گئی۔ کمپنی نے تنازعہ حل کے نظام کی ضرورت ظاہر کی۔








