کلاڈ میتھوس کو فروغ دینے کے لیے 'خوف پر مبنی مارکیٹنگ' کا استعمال کرتے ہوئے انتھروپک: سیم آلٹمین

مختصراً

اوپن اے آئی کے سی ای او سیم آلٹ مین نے تجویز کیا ہے کہ حریف فرم اینتھروپک اپنے کلاڈ میتھوس ماڈل کو فروغ دینے کے لیے "خوف پر مبنی مارکیٹنگ" کا استعمال کر رہی ہے۔

Claude Mythos نے سافٹ ویئر کی کمزوریوں کو تلاش کرنے کی بے مثال صلاحیت دکھائی ہے۔

حکومتوں اور محققین نے Mythos میں شامل دفاعی اور جارحانہ دونوں خطرات سے خبردار کیا ہے۔

اوپن اے آئی کے سی ای او سیم آلٹ مین نے حریف اینتھروپک کے طاقتور نئے اے آئی ماڈل کلاڈ میتھوس پر بڑھتے ہوئے خطرے کے خلاف پیچھے ہٹ گئے، تجویز کیا کہ کمپنی پروڈکٹ کی مارکیٹنگ کے لیے "خوف" کا استعمال کر رہی ہے۔

ٹیک صحافی ایشلے وانس کے زیر اہتمام کور میموری پوڈ کاسٹ پر بات کرتے ہوئے، آلٹ مین نے دلیل دی کہ "خوف پر مبنی مارکیٹنگ" کا استعمال AI کو "لوگوں کے چھوٹے گروپ" کے ہاتھ میں رکھنے کے لیے تیار کیا گیا تھا۔

آلٹ مین نے کہا، "آپ اس کا جواز بہت سے مختلف طریقوں سے پیش کر سکتے ہیں، اور اس میں سے کچھ حقیقی ہیں، جیسے کہ حفاظتی تحفظات کے جائز خدشات ہوں گے۔"

"لیکن اگر آپ جو چاہتے ہیں وہ ایسا ہے کہ 'ہمیں AI پر کنٹرول کی ضرورت ہے، صرف ہم، کیونکہ ہم قابل بھروسہ لوگ ہیں'، میرے خیال میں خوف پر مبنی مارکیٹنگ شاید اس کا جواز پیش کرنے کا سب سے مؤثر طریقہ ہے۔"

آلٹمین نے مزید کہا کہ جب کہ AI کی حفاظت کے بارے میں درست خدشات موجود ہیں، "یہ کہنا واضح طور پر ناقابل یقین مارکیٹنگ ہے: 'ہم نے ایک بم بنایا ہے، ہم اسے آپ کے سر پر گرانے والے ہیں۔ ہم آپ کو 100 ملین ڈالر میں ایک بم شیلٹر فروخت کریں گے۔ آپ کو اپنی تمام چیزوں کو چلانے کے لیے اس کی ضرورت ہے، لیکن صرف اس صورت میں جب ہم آپ کو بطور گاہک منتخب کریں۔'"

انہوں نے نوٹ کیا کہ AI کی نئی صلاحیتوں کو OpenAI کے اس یقین کے ساتھ متوازن کرنا "ہمیشہ آسان نہیں" تھا کہ ٹیکنالوجی قابل رسائی ہونی چاہیے۔

انتھروپک کلاڈ میتھوس

Anthropic's Claude Mythos ماڈل، جس کا انکشاف گزشتہ ماہ ہوا، نے محققین، حکومتوں اور سائبرسیکیوریٹی انڈسٹری کی طرف سے شدید توجہ مبذول کرائی ہے، خاص طور پر یہ تجویز کرنے کے بعد کہ یہ سافٹ ویئر کی کمزوریوں کی خود مختاری سے شناخت کر سکتا ہے اور پیچیدہ سائبر آپریشنز کو انجام دے سکتا ہے۔ ماڈل کو محدود پروگرام کے ذریعے صرف محدود تنظیموں میں تقسیم کیا جا رہا ہے۔

رول آؤٹ AI انڈسٹری میں وسیع تر تقسیم کی عکاسی کرتا ہے کہ کس طرح طاقتور سسٹمز کو تعینات کیا جانا چاہیے، کچھ کمپنیاں کنٹرولڈ رسائی پر زور دیتی ہیں اور دیگر ٹیکنالوجی کی جدت اور تفہیم کو تیز کرنے کے لیے وسیع تر تقسیم کے لیے بحث کرتی ہیں۔

کے

خرافات اس بحث میں ایک مرکزی نقطہ بن گیا ہے۔ ماڈل کی صلاحیتوں کو Anthropic نے ایک دفاعی پیش رفت کے طور پر تیار کیا ہے — جو سافٹ ویئر کی اہم خامیوں کا تیزی سے پتہ لگانے کی اجازت دیتا ہے — اور اگر غلط استعمال کیا جائے تو ممکنہ جارحانہ خطرہ۔ اس ماہ کے اوائل میں، اس نے ٹیسٹنگ کے دوران Mozilla کے Firefox براؤزر میں سینکڑوں کمزوریوں کی نشاندہی کی اور ملٹی اسٹیج سائبر اٹیک سمیلیشنز کو انجام دینے کی صلاحیت کا بھی مظاہرہ کیا۔

اینتھروپک نے پراجیکٹ گلاس ونگ کے ذریعے سسٹم تک رسائی کو محدود کر دیا ہے، جس سے منتخب کمپنیوں بشمول ایمیزون، ایپل اور مائیکروسافٹ کو اس کی صلاحیتوں کو جانچنے کی اجازت دی گئی ہے۔ کمپنی نے اوپن سورس سیکیورٹی کی کوششوں کی حمایت کرنے کے لیے بھی اہم وسائل کا ارتکاب کیا ہے، یہ دلیل دیتے ہوئے کہ ٹیکنالوجی کے زیادہ وسیع پیمانے پر دستیاب ہونے سے پہلے محافظوں کو اس سے فائدہ اٹھانا چاہیے۔

سیکورٹی ماہرین نے خبردار کیا ہے کہ وہی صلاحیتیں جو Mythos کو کمزوریوں کی نشاندہی کرنے کی اجازت دیتی ہیں ان کا بڑے پیمانے پر استحصال کرنے کے لیے بھی استعمال کیا جا سکتا ہے۔ برطانیہ کے اے آئی سیکیورٹی انسٹی ٹیوٹ کے ٹیسٹوں سے معلوم ہوا کہ یہ ماڈل خود مختار طور پر پیچیدہ سائبر آپریشنز کو مکمل کر سکتا ہے۔

ماڈل نے موجودہ AI تشخیصی نظاموں کی حدود کو بھی بے نقاب کیا ہے، جس میں Anthropic تسلیم کرتا ہے کہ بہت سے موجودہ سائبر سیکیورٹی بینچ مارک اس کے جدید ترین نظام کی صلاحیتوں کی پیمائش کے لیے کافی نہیں ہیں۔

اس نے کہا، محققین کے ایک گروپ نے گزشتہ ہفتے دعوی کیا کہ وہ عوامی طور پر دستیاب ماڈلز کا استعمال کرتے ہوئے Mythos کے نتائج کو دوبارہ پیش کرنے کے قابل تھے۔

جنگ اور نگرانی میں اس کے ممکنہ ایپلی کیشنز کے بارے میں خدشات پر امریکی حکومت کے کچھ حصوں میں ٹیکنالوجی کے استعمال کو روکنے کے مطالبات کے باوجود، نیشنل سیکیورٹی ایجنسی نے مبینہ طور پر کلاسیفائیڈ نیٹ ورکس پر ماڈل کے پیش نظارہ ورژن کی جانچ شروع کر دی ہے۔ Decrypt کی پیرنٹ کمپنی Dastan کے زیر ملکیت پیشین گوئی مارکیٹ Myriad پر، صارفین نے Claude Mythos کو 30 جون تک وسیع تر عوام کے لیے جاری کیے جانے کا 49% موقع دیا ہے۔

کے

آلٹ مین نے مشورہ دیا کہ صلاحیتوں میں بہتری کے ساتھ ہی انتہائی خطرناک AI سسٹمز کے بارے میں بیان بازی بڑھ سکتی ہے، لیکن دلیل دی کہ اس طرح کے تمام دعووں کو اہمیت کے ساتھ نہیں لیا جانا چاہیے۔

انہوں نے کہا کہ "ان ماڈلز کے بارے میں بہت زیادہ بیان بازی ہوگی جو ریلیز کرنا بہت خطرناک ہیں۔ بہت خطرناک ماڈلز بھی ہوں گے جنہیں مختلف طریقوں سے ریلیز کرنا پڑے گا۔" "مجھے یقین ہے کہ Mythos سائبر سیکیورٹی کے لیے ایک بہترین ماڈل ہے لیکن مجھے لگتا ہے کہ ہمارے پاس ایک ایسا منصوبہ ہے جس کے بارے میں ہمیں اچھا لگتا ہے کہ ہم اس قسم کی صلاحیت کو دنیا میں کیسے لاتے ہیں۔"

آلٹ مین نے ان تجاویز کو بھی مسترد کر دیا کہ OpenAI اپنے بنیادی ڈھانچے کے اخراجات کو کم کر رہا ہے، یہ کہتے ہوئے کہ کمپنی بیانیے کو تبدیل کرنے کے باوجود اپنی کمپیوٹنگ کی صلاحیت کو بڑھاتی رہے گی۔

"مجھے نہیں معلوم کہ یہ کہاں سے آرہا ہے… لوگ واقعی پیچھے ہٹنے کی کہانی لکھنا چاہتے ہیں،" انہوں نے کہا۔ "لیکن بہت جلد یہ دوبارہ ہوگا، جیسے، 'اوپن اے آئی بہت لاپرواہ ہے۔ وہ اس پاگل رقم کو کیسے خرچ کر سکتے ہیں؟'"