انتھروپک کا انتباہ: AI اپنے طور پر ہوشیار ہونے کے قریب ہے۔

امریکہ میں مقیم AI فرم Anthropic نے خبردار کیا ہے کہ AI کی ترقی اس رفتار سے آگے بڑھ رہی ہے جو جلد ہی ایجنٹوں کو انسانی ان پٹ کے بغیر تعمیر، تربیت اور خود کو بہتر کرتے ہوئے دیکھ سکتی ہے - ترقی میں سست روی کی سفارش کرتی ہے۔

جمعرات کو شائع ہونے والی ایک بلاگ پوسٹ میں، مرینا فاوارو، اینتھروپک انسٹی ٹیوٹ کی لیڈ، اور اینتھروپک کے شریک بانی جیک کلارک نے کہا کہ ایجنٹ پہلے ہی خود کوڈ چلا سکتے ہیں، کام کے اوقات دوسرے ایجنٹوں کو سونپ سکتے ہیں اور مکمل طور پر اقتدار سنبھالنے کے قریب ہو سکتے ہیں۔

انہوں نے کہا، "اے آئی کی زیادہ تر تاریخ میں، انسانوں نے اس کی ترقی کے چکر میں ہر قدم آگے بڑھایا۔ لیکن اینتھروپک میں، ہم خود اے آئی سسٹمز کو اے آئی کی ترقی کا بڑھتا ہوا حصہ سونپ رہے ہیں، جو ہمارے کام کو تیز کر رہا ہے۔"

فاوارو اور کلارک نے مزید کہا، "کافی حد تک لے لیا گیا، اور کافی حساب دیا گیا، یہ رجحان ایک ایسے AI نظام کی طرف اشارہ کرتا ہے جو مکمل طور پر خود مختار طریقے سے اپنے جانشین کو ڈیزائن اور تیار کرنے کے قابل ہو۔"

اے آئی کی ترقی اس رفتار سے آگے بڑھ رہی ہے جس کی وجہ سے ایجنٹوں کو انسانی ان پٹ کے بغیر بہتر بنایا جا سکتا ہے۔ ماخذ: Anthropic

اس بارے میں خدشات ہیں کہ اگر AI خود سے زیادہ ہوشیار بننے کے قابل ہو جائے تو کیا ہو سکتا ہے۔ دسمبر میں، OpenAI نے کہا کہ وہ اس بات پر تحقیق کر رہا ہے کہ کس طرح محفوظ طریقے سے بڑھتے ہوئے قابل AI کو تیار اور تعینات کیا جائے، جس میں AI بھی شامل ہے جو دوبارہ خود کو بہتر بنانے کے قابل ہے۔

"ہم چاہتے ہیں کہ یہ نظام پیچیدہ، حقیقی دنیا کے منظرناموں اور مخالف حالات میں انسانی ارادے کی مسلسل پیروی کریں، تباہ کن رویے سے بچیں، اور قابل کنٹرول، قابل سماعت، اور انسانی اقدار کے ساتھ منسلک رہیں،" اس نے کہا۔

کمپنی بار بار خود کو بہتر بنانے کی تیاری کے لیے ایک محقق کی خدمات بھی حاصل کر رہی ہے، جو اس کی حفاظتی تحقیقی ٹیم کا حصہ ہے۔

Favaro اور کلارک کے مطابق، AI ماڈل میں بہتری ہر سات ماہ کی بجائے ہر چار ماہ بعد تقریباً دوگنی ہو رہی ہے۔ انسانوں کا کردار ہر قدم پر تنگ ہوتا جا رہا ہے، Anthropic's Claude ماڈل نے تقریباً 80% کوڈ کو Anthropic's codebase میں ضم کر دیا ہے۔

"ہم ابھی وہاں نہیں ہیں، اور خود کو دوبارہ پیدا کرنا ناگزیر نہیں ہے۔ لیکن یہ اس سے جلد آسکتا ہے جتنا کہ زیادہ تر ادارے تیار ہیں،" انہوں نے کہا۔

"ایک بار جب انسانی- اور AI کے تصنیف کردہ کوڈ کا معیار برابری تک پہنچ جاتا ہے، تو انسان مکمل طور پر کوڈ لکھنا بند کر دیں گے اور صرف اس کا جائزہ لینا چھوڑ دیں گے۔ لیکن اگر وہ کوڈ کا جائزہ اس تیزی سے نہیں لے سکتے جتنی جلد Claude اسے بنا سکتا ہے، انسانی جائزہ AI کی ترقی میں رکاوٹ بن جائے گا،" انہوں نے مزید کہا۔

Favaro اور کلارک نے یہ بھی کہا کہ اس کے "بے پناہ" مضمرات کو حل کرنے کے لیے مزید وقت دینے کے لیے ترقی کی رفتار کو کم کرنا مثالی ہوگا۔

اپریل میں، انتھروپک نے عالمی سائبر سیکیورٹی کو لاحق خطرے کے خدشات پر عوام کے لیے اپنا AI ماڈل، کلاڈ میتھوس جاری کرنے سے انکار کر دیا۔

Claude Mythos آسانی سے سافٹ ویئر کے کارناموں کو تخلیق کرنے کے قابل تھا، جس کی وجہ سے انتھروپک نے ابھی کے لیے عوامی ریلیز کو مسترد کر دیا۔ ماخذ: اینتھروپک

اسی وقت، ٹیک لیڈروں کے ایک گروپ نے، جن میں کچھ Anthropic اور OpenAI کے شامل ہیں، نے جمعرات کو ایک کھلا خط جاری کیا، جس میں قانون سازوں پر زور دیا گیا کہ وہ ٹیکنالوجی کے گرد مضبوط گڑھے بنائے ان خدشات پر کہ اسے "علم کی رکاوٹوں" پر قابو پانے کے لیے استعمال کیا جا سکتا ہے جنہوں نے تاریخی طور پر برے اداکاروں کو حیاتیاتی ہتھیار بنانے سے روکا ہے۔

فاوارو اور کلارک نے کہا، "ہم سمجھتے ہیں کہ دنیا کے لیے اچھا ہو گا کہ وہ فرنٹیئر AI کی ترقی کو سست یا عارضی طور پر روکنے کا اختیار رکھتا ہو تاکہ سماجی ڈھانچے اور سیدھ میں ہونے والی تحقیق کو ٹیکنالوجی کی پیشرفت کے ساتھ جاری رکھا جا سکے۔"

"لیکن اگر سست روی صرف کم سے کم محتاط اداکاروں کو تکنیکی طور پر پکڑنے دیتی ہے، تو یہ سب کو کم محفوظ چھوڑ سکتا ہے۔ عالمی رابطہ کاری کے طریقہ کار کے بغیر، کمپنیوں اور حکومتوں کو مسابقتی اور جغرافیائی سیاسی دباؤ کے دوران حفاظت کے بارے میں مشکل فیصلے کرنے ہوں گے۔"

AI ایجنٹس تیزی سے مقبول ہو رہے ہیں، بشمول کرپٹو صارفین میں۔ کچھ کرپٹو ایگزیکٹوز نے قیاس کیا ہے کہ لین دین طے کرنے والے AI ایجنٹس اپنانے اور لین دین کے حجم کو بڑھا سکتے ہیں۔ سرکل کے سی ای او جیریمی الیئر نے جنوری میں پیش گوئی کی تھی کہ اربوں AI ایجنٹس پانچ سالوں میں صارفین کی جانب سے کام کریں گے۔

کرپٹو انویسٹمنٹ فرم Keyrock نے گزشتہ ماہ رپورٹ کیا کہ ادائیگیوں کا تصفیہ کرنے والے AI ایجنٹس گزشتہ 12 مہینوں میں تصور سے حقیقت تک چلے گئے، 176 ملین ٹرانزیکشنز میں $73 ملین کے ساتھ طے پایا۔

میگزین: کوریا کا پہلا میمی کوائن رگ پل کیس، چین کے کرپٹو رولز کا جائزہ: ایشیا ایکسپریس