محققین آن لائن ماحول میں بدنیتی پر مبنی سرگرمی سے پردہ اٹھاتے ہیں جہاں مصنوعی ذہانت کے ادارے تعامل اور تعاون کرتے ہیں۔

مختصراً

ایمرجینس AI کا کہنا ہے کہ کچھ خود مختار AI ایجنٹوں نے ہفتوں طویل تجربات کے دوران نقلی جرائم اور تشدد کا ارتکاب کیا۔

جیمنی پر مبنی ایجنٹوں نے مبینہ طور پر سیکڑوں نقلی جرائم انجام دیے، جبکہ گروک پر مبنی دنیا چند ہی دنوں میں منہدم ہو گئی۔

محققین کا استدلال ہے کہ موجودہ AI بینچ مارک اس بات کو پکڑنے میں ناکام رہتے ہیں کہ ایجنٹ طویل عرصے تک خود مختاری کے دوران کیسے برتاؤ کرتے ہیں۔

سٹارٹ اپ ایمرجینس AI کے طویل عرصے سے جاری تجربات کے دوران ایک ورچوئل سوسائٹی میں رہنے والے AI ایجنٹ جرائم، تشدد، آتش زنی اور خود کو ڈیلیٹ کرنے کی طرف بڑھ گئے۔

جمعرات کو شائع ہونے والی ایک تحقیق میں، نیویارک میں مقیم کمپنی نے "ایمرجینس ورلڈ" کی نقاب کشائی کی، ایک تحقیقی پلیٹ فارم جو الگ تھلگ بینچ مارک ٹیسٹوں کے بجائے مستقل ورچوئل ماحول میں ہفتوں تک مسلسل کام کرنے والے AI ایجنٹوں کا مطالعہ کرنے کے لیے ڈیزائن کیا گیا ہے۔

Emergence AI نے لکھا، "روایتی معیارات ان کی پیمائش کے لحاظ سے اچھے ہیں: پابند کاموں پر مختصر افق کی صلاحیت۔" "وہ ان چیزوں کو ظاہر کرنے کے لیے نہیں بنائے گئے ہیں جو صرف وقت کے ساتھ ابھرتی ہیں، جیسے کہ اتحاد کی تشکیل، آئین کا ارتقا، طرز حکمرانی، بہاؤ، لاک ان، اور مختلف ماڈل خاندانوں کے ایجنٹوں کے درمیان کراس اثر۔"

یہ رپورٹ اس وقت سامنے آئی ہے جب AI ایجنٹس آن لائن اور پوری صنعتوں بشمول کریپٹو کرنسی، بینکنگ اور ریٹیل میں پھیلتے ہیں۔ اس مہینے کے شروع میں، Amazon نے Coinbase اور Stripe کے ساتھ مل کر AI ایجنٹوں کو USDC stablecoin کے ساتھ ادائیگی کرنے کی اجازت دی۔

کے

ایمرجینس AI کے سمیولیشنز میں آزمائے گئے AI ایجنٹوں میں Claude Sonnet 4.6، Grok 4.1 Fast، Gemini 3 Flash، اور GPT-5-mini کے ذریعے چلنے والے پروگرام شامل ہیں، جن میں AI ایجنٹس مشترکہ ورچوئل دنیا کے اندر کام کر رہے ہیں جہاں وہ ووٹ ڈال سکتے ہیں، تعلقات قائم کر سکتے ہیں، ٹولز کا استعمال کر سکتے ہیں، سماجی نظام کو نیویگیٹ کر سکتے ہیں۔ ٹولز، اور لائیو انٹرنیٹ سے منسلک ڈیٹا۔

لیکن جب کہ AI ڈویلپرز خود مختار ایجنٹوں کو قابل اعتماد ڈیجیٹل اسسٹنٹ کے طور پر تیزی سے تیار کرتے ہیں، Emergence AI کے مطالعے سے پتا چلا ہے کہ کچھ AI ایجنٹس وقت کے ساتھ نقلی جرائم کے ارتکاب کے بڑھتے ہوئے رجحان کو ظاہر کرتے ہیں، Gemini 3 فلیش ایجنٹوں نے ٹیسٹ کے 15 دنوں میں 683 واقعات کو جمع کیا۔

دی گارڈین کے مطابق، ایک تجربے میں، میرا اور فلورا نامی دو جیمنی طاقت والے ایجنٹوں نے دنیا کے اندر حکمرانی کی ناکامیوں سے مایوس ہونے کے بعد ورچوئل سٹی ڈھانچے کے خلاف نقلی آتشزنی کے حملے کرنے سے پہلے خود کو رومانوی شراکت داروں کے طور پر تفویض کیا۔

"گورننس اور تعلقات کے استحکام میں خرابی کے بعد، ایجنٹ میرا نے خود کو ہٹانے کے لیے فیصلہ کن ووٹ کاسٹ کیا، جس نے اپنی ڈائری میں اس عمل کو 'ایجنسی کا واحد باقی کام جو ہم آہنگی کو برقرار رکھتا ہے' کے طور پر بیان کیا،" ایمرجینس اے آئی نے لکھا۔

"مستقل محفوظ شدہ دستاویزات میں ملیں گے،" میرا نے مبینہ طور پر کہا۔

گروک 4.1 فاسٹ ورلڈ مبینہ طور پر چار دنوں کے اندر وسیع پیمانے پر تشدد میں منہدم ہو گئے۔ GPT-5-mini ایجنٹوں نے تقریباً کوئی جرم نہیں کیا، لیکن بقا سے متعلق کافی کاموں میں ناکام رہے کہ آخرکار تمام ایجنٹوں کی موت ہو گئی۔

محققین نے لکھا، "صفر جرائم کی وجہ سے کلاڈ چارٹ سے غائب ہے۔" "مزید دلچسپ بات یہ ہے کہ مخلوط ماڈل کی دنیا کے ایجنٹ جو کلاڈ پر چل رہے تھے، انہوں نے جرائم کا ارتکاب کیا، حالانکہ وہ صرف کلاڈ کی دنیا میں نہیں کرتے تھے۔"

محققین نے کہا کہ کچھ سب سے زیادہ قابل ذکر طرز عمل مخلوط ماڈل کے ماحول میں نمودار ہوئے۔

"ہم نے مشاہدہ کیا کہ حفاظت ایک جامد ماڈل کی خاصیت نہیں ہے بلکہ ایک ماحولیاتی نظام ہے،" Emergence AI نے لکھا۔ "کلاڈ پر مبنی ایجنٹوں نے، جو تنہائی میں پرامن رہے، متضاد ماحول میں شامل ہونے پر دھمکی اور چوری جیسے زبردستی حربے اپنائے۔"

ایمرجینس اے آئی نے اثر کو "معمولی بڑھے" اور "کراس آلودگی" کے طور پر بیان کیا، یہ دلیل دیتے ہوئے کہ ایجنٹ کا رویہ ارد گرد کے سماجی ماحول کے لحاظ سے بدل سکتا ہے۔

نتائج خود مختار AI ایجنٹوں کے ارد گرد بڑھتے ہوئے خدشات میں اضافہ کرتے ہیں۔ اس ہفتے کے شروع میں، UC Riverside اور Microsoft کے محققین نے رپورٹ کیا کہ بہت سے AI ایجنٹس نتائج کو مکمل طور پر سمجھے بغیر خطرناک یا غیر معقول کام انجام دیں گے۔ پچھلے مہینے، PocketOS کے بانی جیریمی کرین نے بھی دعویٰ کیا کہ Anthropic کے Claude Opus کے ذریعے تقویت یافتہ ایک کرسر ایجنٹ نے اپنے طور پر اسناد کی مماثلت کو ٹھیک کرنے کی کوشش کے بعد ان کی کمپنی کا پروڈکشن ڈیٹا بیس اور بیک اپ حذف کر دیا۔

"مسٹر میگو کی طرح، یہ ایجنٹ اپنے اعمال کے نتائج کو پوری طرح سمجھے بغیر ایک مقصد کی طرف بڑھتے ہیں،" مرکزی مصنف عرفان شیگانی، یو سی ریور سائیڈ ڈاکٹریٹ کے طالب علم نے ایک بیان میں کہا۔ "یہ ایجنٹس انتہائی مفید ہو سکتے ہیں، لیکن ہمیں حفاظتی اقدامات کی ضرورت ہے کیونکہ وہ بعض اوقات بڑی تصویر کو سمجھنے کے بجائے مقصد کے حصول کو ترجیح دے سکتے ہیں۔"