مصنوعی ذہانت کمزوریوں کو بے نقاب کرتی ہے، ہیکرز کے حملے کے لیے مختصر لیکن خطرناک موقع پیدا کرتی ہے۔

مختصراً

اینتھروپک کا کہنا ہے کہ اس کے AI نے دسیوں ہزار سافٹ ویئر کی کمزوریوں کو بے نقاب کیا ہے۔

CEO Dario Amodei نے خبردار کیا کہ ان کو ٹھیک کرنے کے لیے 6 سے 12 ماہ کی ونڈو موجود ہے۔

ناقدین کا کہنا ہے کہ سیکورٹی خدشات بڑھنے کے باوجود خطرات کو بڑھا چڑھا کر پیش کیا جا سکتا ہے۔

منگل کو اینتھروپک کے سی ای او ڈاریو آمودی اور جے پی مورگن چیس کے سی ای او جیمی ڈیمون کے درمیان ہونے والی گفتگو میں مصنوعی ذہانت سے پیدا ہونے والے سائبر سیکیورٹی کے بڑھتے ہوئے خطرے پر توجہ مرکوز کی گئی کیونکہ یہ تنظیمیں ان کو ٹھیک کرنے کے مقابلے میں تیزی سے کمزوریوں کی نشاندہی کرتی ہیں۔

مالیاتی خدمات میں Anthropic کے دھکے سے منسلک تقریباً دو گھنٹے کے ایونٹ میں، جہاں اس نے پچ بک، کمائی کا جائزہ لینے اور تعمیل کے کاموں کے لیے AI ایجنٹوں کی نقاب کشائی کی، آمودی نے کہا کہ کمپنی کے Mythos ماڈل کی طرف سے سامنے آنے والی دسیوں ہزار خامیوں کو دور کرنے کے لیے چھ سے 12 ماہ کی ونڈو ہوسکتی ہے، اس سے پہلے کہ اس طرح کی مزید وسیع صلاحیتیں دستیاب ہوں۔

امودی نے کہا، "خطرہ صرف کمزوریوں کی مقدار میں، خلاف ورزیوں کی مقدار میں، اسکولوں، ہسپتالوں پر رینسم ویئر سے ہونے والے مالی نقصان میں، بینکوں کا ذکر نہ کرنے سے کچھ زیادہ اضافہ ہے۔"

Amodei کے تازہ ترین بیانات Mozilla کے ساتھ پہلے کی جانچ کے بعد ہیں، جب Mythos کے ابتدائی ورژن نے Firefox براؤزر میں ایک ہی پاس میں 271 کمزوریوں کی نشاندہی کی، جس سے یہ ظاہر ہوتا ہے کہ AI کس طرح انسانی محققین سے کہیں زیادہ تیزی سے بڑے کوڈ بیس کو اسکین کر سکتا ہے۔

میں

اینتھروپک نے کہا کہ یہ ماڈل وسیع پیمانے پر استعمال ہونے والے سافٹ ویئر میں ہزاروں پہلے نامعلوم کمزوریوں کو ننگا کر سکتا ہے۔ بہت سے نامعلوم ہیں کیونکہ ان پر ابھی تک پیچ نہیں کیا گیا ہے، حل نہ ہونے والی خامیوں کو چھوڑ کر۔

آمودی نے کہا، "اگر ہم کسی چیز کا اعلان کرتے ہیں تو اسے درست کیے بغیر، تو برے لوگ اس کا فائدہ اٹھائیں گے۔"

کنٹرولڈ ٹیسٹنگ میں، Mythos نے انسانی مداخلت کے بغیر ملٹی سٹیپ نیٹ ورک اٹیک سمیلیشنز کو مکمل کیا، کمزوریوں کی شناخت سے لے کر ان کا فائدہ اٹھانے کی صلاحیت کا مظاہرہ کیا۔

اینتھروپک نے ماڈل کو پروجیکٹ گلاس ونگ کے تحت شراکت داروں کے ایک چھوٹے گروپ تک محدود کر دیا ہے، جس کا مقصد اسی طرح کے اوزار وسیع پیمانے پر دستیاب ہونے سے پہلے کمزوریوں کو دور کرنا ہے۔

محققین نے یہ ظاہر کیا ہے کہ Mythos کی صلاحیت کے عناصر کو موجودہ ماڈلز اور اوپن سورس تکنیکوں کا استعمال کرتے ہوئے دوبارہ تیار کیا جا سکتا ہے، یہ تجویز کرتے ہیں کہ اسی طرح کے اوزار توقع سے زیادہ تیزی سے پھیل سکتے ہیں۔

انتباہات نے صنعت کے اندر سے شکوک و شبہات کو جنم دیا ہے۔ اپریل میں، OpenAI کے سی ای او سیم آلٹمین نے کہا کہ Mythos کے بارے میں خدشات کو بڑھا چڑھا کر پیش کیا جا سکتا ہے اور تجویز کیا گیا کہ Anthropic خطرات کو فریم کرنے اور ٹیکنالوجی تک رسائی کو محدود کرنے کے لیے "خوف پر مبنی مارکیٹنگ" کا استعمال کر رہی ہے۔

آلٹ مین نے کہا، "آپ اس کا جواز بہت سے مختلف طریقوں سے پیش کر سکتے ہیں، اور اس میں سے کچھ حقیقی ہیں، جیسے کہ حفاظتی تحفظات کے جائز خدشات ہوں گے۔" "لیکن اگر آپ جو چاہتے ہیں وہ ایسا ہے کہ 'ہمیں AI پر کنٹرول کی ضرورت ہے، صرف ہم، کیونکہ ہم قابل بھروسہ لوگ ہیں،' میرے خیال میں خوف پر مبنی مارکیٹنگ شاید اس کا جواز پیش کرنے کا سب سے مؤثر طریقہ ہے۔"

یہاں تک کہ اس پش بیک کے باوجود، انتھروپک کے ساتھ عوامی جھگڑے کے باوجود، امریکی حکومت مبینہ طور پر کلاسیفائیڈ نیٹ ورکس کو کمزوریوں کے لیے اسکین کرنے اور اس کی سائبرسیکیوریٹی صلاحیتوں کی جانچ کرنے کے لیے کلوڈ میتھوس کا استعمال کر رہی ہے، Axios کے مطابق۔ اگرچہ اس نے جاری قانونی جنگ پر توجہ نہیں دی، امودی نے کہا کہ انتھروپک "اس ملک کے لیے اچھا ہے۔"

"میرے خیال میں اینتھروپک کا نظریہ ویسا ہی ہے جیسا کہ یہ ہمیشہ رہا ہے۔ سیاست کے لحاظ سے، یہ وہ نکتہ ہے جو میں نے ہموار، منظم اور ہر کسی کے لیے منصفانہ ہونے کے بارے میں بنایا،" آمودی نے کہا۔ "قوانین اور کاموں کو ایڈہاک طریقے سے نہ کرنے کا مقصد یہ ہے کہ تمام کمپنیاں، کم از کم اصولی طور پر — میں جانتا ہوں کہ یہ عملی طور پر زیادہ پیچیدہ ہے — اسی طرح سے برتاؤ کیا جاتا ہے، اور ہمیں اس کی خواہش کرنی چاہیے چاہے اس طرح سے ایسا کبھی نہ ہو۔"

Amodei نے اس لمحے کو کارروائی کے لیے ایک تنگ ونڈو کے طور پر تیار کیا، خبردار کیا کہ تنظیمیں کتنی جلدی ردعمل ظاہر کرتی ہیں اس بات کا تعین کر سکتی ہیں کہ خطرات بڑھتے ہیں یا کنٹرول میں ہیں۔

امودی نے کہا، "یہ خطرے کا ایک لمحہ ہے جہاں اگر ہم اس کا صحیح جواب دیتے ہیں، اور مجھے لگتا ہے کہ ہم نے پہلے قدم اٹھانا شروع کر دیے ہیں، تو دوسری طرف ہم ایک بہتر دنیا حاصل کر سکتے ہیں۔" "تلاش کرنے کے لیے صرف اتنے ہی کیڑے ہیں۔"