ماہرین نے AI کی پیش رفت کے بارے میں متنبہ کیا، ممکنہ خطرات کو کم کرنے کے لیے ہنگامی منصوبوں کا مطالبہ کیا

ٹیبل آف کنٹینٹس AI کے ڈویلپر Anthropic نے ایک سخت انتباہ جاری کیا ہے کہ مصنوعی ذہانت کے نظام جلد ہی اگلی نسل کے ماڈلز کو خود مختار طریقے سے ڈیزائن اور تربیت دینے کی صلاحیت تک پہنچ سکتے ہیں۔ جمعرات کو ایک بلاگ پوسٹ میں، کمپنی نے خود کو بہتر بنانے والی ٹکنالوجی سے متعلق خدشات کو اجاگر کیا۔ 🚨یہ خوفناک ہے: اینتھروپک کہتی ہے کہ دنیا کو اے آئی پر روک لگانی چاہیے اس سے پہلے، اینتھروپک کے سی ای او ڈاریو آمودی: "دوسری انتہائی پوزیشن یہ ہے کہ 'یہ واقعی خوفناک ہے، ہمیں بس رک جانا چاہیے.. ٹیکنالوجی کی تعمیر بند کر دیں'" اب، اینتھروپک کہتے ہیں: "ہمارا AI ہمیں خوفناک بنا رہا ہے۔ pic.twitter.com/Gn0Mf04YzX — سکے بیورو (@coinbureau) جون 5، 2026 یہ تجزیہ مرینا فاوارو کی طرف سے آیا، جو کمپنی کے شریک بانی جیک کلارک کے ساتھ مل کر اینتھروپک انسٹی ٹیوٹ میں اقدامات کی قیادت کرتی ہیں، ان کے جائزے کے مطابق، AI کی صلاحیتیں ہر ماہ سے دوگنی یا تیز رفتاری سے بڑھ رہی ہیں۔ اس سال کے مئی تک ہر ڈیولپمنٹ سائیکل میں انسانی شراکت کم ہوتی جا رہی ہے، انتھروپک کے ملکیتی AI سسٹم نے 80% سے زیادہ کوڈ لکھا تھا جو کہ فاوارو اور کلارک نے نوٹ کیا کہ موجودہ AI ایجنٹوں کے پاس خود کار طریقے سے کام کرنے کی صلاحیت موجود ہے۔ ناگزیر نہیں، انہوں نے خبردار کیا کہ ریگولیٹری فریم ورک اور اداروں کے تیار ہونے سے پہلے مکمل طور پر خود مختار AI کی ترقی ممکن ہو سکتی ہے، "جب AI سے تیار کردہ اور انسانی تحریری کوڈ مساوی معیار کی سطح پر پہنچ جائیں گے، تو انسانی ڈویلپرز کوڈ لکھنا مکمل طور پر بند کر دیں گے اور خصوصی طور پر افعال کا جائزہ لینے کے لیے منتقل ہو جائیں گے،" انہوں نے وضاحت کی کہ AI انسانی کوڈ سے زیادہ تیز رفتاری سے بن سکتا ہے۔ انتھروپک کے مطابق، مصنفین نے اس ممکنہ تبدیلی کو "ٹیکنالوجیکل ارتقاء میں ایک تبدیلی کا سنگ میل" قرار دیا ہے، جبکہ انتھروپک کے مطابق، AI کی ترقی کا ایک مؤثر عمل ٹکنالوجیکل فرنٹیئر پر کام کرنے والی متعدد لیبارٹریوں کے درمیان اتفاق رائے کا مطالبہ کرتا ہے۔ روکتا ہے، نامزد نگرانی کے اختیارات کے ساتھ، تنظیم نے خبردار کیا کہ اگر صرف ایک لیبارٹری نے ایک وقفے کو لاگو کیا، تو بنیادی نتیجہ عالمی حفاظت کو بڑھانے کے بجائے مسابقتی پوزیشننگ کو دوبارہ تقسیم کرنا ہوگا، انتھروپک نے خبردار کیا کہ یہ کمپنی کے مجموعی طور پر خطرے کی بجائے خطرے میں اضافہ کر سکتا ہے. اس بات کی تحقیقات کرنے کا ارادہ رکھتا ہے کہ کون سے بنیادی ڈھانچہ اگلے کئی مہینوں میں پالیسی سازوں، تعلیمی محققین، سول سوسائٹی کی تنظیموں، اور ہم مرتبہ AI کمپنیوں کو بلانے کا ارادہ رکھتے ہیں، گزشتہ دسمبر میں OpenAI نے تحقیقی اقدامات کا اعلان کیا ہے جو کہ خود کو محفوظ طریقے سے دوبارہ منظم کرنے پر مرکوز ہیں۔ پروگرام نے گزشتہ اپریل میں اپنے انتہائی جدید ترین ماڈل کلاڈ میتھوس کو سائبرسیکیوریٹی کی کمزوریوں کی نشاندہی کرنے سے روک دیا تھا جس دن انتھروپک کے اعلان کے ساتھ ہی یہ انکشاف ہوا تھا کہ ٹیکنا لوجی کے نمائندوں کے لیے کھلے عام خطوط کے ساتھ ایک اتحاد قائم کیا جا سکتا ہے۔ AI ضوابط، خاص طور پر بائیو ویپن کی ترقی کے خطرات کا حوالہ دیتے ہوئے، 61 بلین ڈالر کی کمپنی کی قیمت پر اس نے خفیہ دستاویزات جمع کرائی ہیں جو کہ AI، Crypto اور ٹیکنالوجی میں اعلیٰ کارکردگی کا مظاہرہ کرنے والے اسٹاکس کے لیے ہیں۔