استخدام إنساني لـ "التسويق القائم على الخوف" للترويج لكلود ميثوس: سام التمان

باختصار

اقترح سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أن الشركة المنافسة Anthropic تستخدم "التسويق القائم على الخوف" للترويج لنموذج Claude Mythos.

أظهر كلود ميثوس قدرة غير مسبوقة على اكتشاف نقاط الضعف في البرامج.

لقد حذرت الحكومات والباحثون من المخاطر الدفاعية والهجومية التي تنطوي عليها لعبة ميثوس.

رفض سام ألتمان، الرئيس التنفيذي لشركة OpenAI، القلق المتزايد بشأن نموذج الذكاء الاصطناعي القوي الجديد لشركة Anthropic، كلود ميثوس، مما يشير إلى أن الشركة تستخدم "الخوف" لتسويق المنتج.

وفي حديثه في بودكاست Core Memory الذي استضافته الصحفية التقنية آشلي فانس، قال ألتمان إن استخدام "التسويق القائم على الخوف" كان موجهًا نحو إبقاء الذكاء الاصطناعي في أيدي "مجموعة أصغر من الناس".

وقال ألتمان: "يمكنك تبرير ذلك بعدة طرق مختلفة، وبعضها حقيقي، كما لو كانت هناك مخاوف مشروعة تتعلق بالسلامة".

"ولكن إذا كان ما تريده هو مثل "نحن بحاجة إلى السيطرة على الذكاء الاصطناعي، نحن فقط، لأننا أشخاص جديرون بالثقة"، أعتقد أن التسويق القائم على الخوف هو على الأرجح الطريقة الأكثر فعالية لتبرير ذلك."

وأضاف ألتمان أنه على الرغم من وجود مخاوف مشروعة بشأن سلامة الذكاء الاصطناعي، "فمن الواضح أنه من غير المعقول تسويق القول: لقد صنعنا قنبلة. ونحن على وشك إسقاطها على رأسك. وسوف نبيع لك ملجأ من القنابل مقابل 100 مليون دولار. أنت في حاجة إليه لتشغيل جميع أغراضك، ولكن فقط إذا اخترناك كعميل".

وأشار إلى أنه "ليس من السهل دائمًا" الموازنة بين قدرات الذكاء الاصطناعي الجديدة وإيمان شركة OpenAI بضرورة إتاحة الوصول إلى التكنولوجيا.

الأنثروبي كلود ميثوس

لقد اجتذب نموذج كلود ميثوس من شركة أنثروبيك، والذي تم الكشف عنه الشهر الماضي، اهتمامًا كبيرًا من الباحثين والحكومات وصناعة الأمن السيبراني، خاصة بعد أن أشارت الاختبارات إلى أنه يمكنه تحديد نقاط الضعف في البرامج بشكل مستقل وتنفيذ عمليات إلكترونية معقدة. يتم توزيع النموذج فقط على مجموعة محدودة من المنظمات من خلال برنامج مقيد.

ويعكس هذا الطرح انقسامًا أوسع في صناعة الذكاء الاصطناعي حول كيفية نشر الأنظمة القوية، حيث تؤكد بعض الشركات على الوصول الخاضع للرقابة بينما تطالب شركات أخرى بالتوزيع على نطاق أوسع لتسريع الابتكار وفهم التكنولوجيا.

أصبحت الأساطير نقطة محورية في هذا النقاش. لقد تم تأطير قدرات النموذج بواسطة Anthropic على أنها اختراق دفاعي - مما يسمح باكتشاف أسرع لعيوب البرامج الحرجة - وخطر هجومي محتمل في حالة إساءة استخدامه. وفي وقت مبكر من هذا الشهر، حددت مئات من نقاط الضعف في متصفح Mozilla’s Firefox أثناء الاختبار وأثبتت أيضًا القدرة على تنفيذ عمليات محاكاة للهجمات الإلكترونية متعددة المراحل.

قامت Anthropic بتقييد الوصول إلى النظام عبر Project Glasswing، ومنحت شركات مختارة بما في ذلك Amazon وApple وMicrosoft القدرة على اختبار قدراته. كما خصصت الشركة أيضًا موارد كبيرة لدعم الجهود الأمنية مفتوحة المصدر، معتبرة أن المدافعين يجب أن يستفيدوا من التكنولوجيا قبل أن تصبح متاحة على نطاق أوسع.

يحذر خبراء الأمن من أن نفس القدرات التي تسمح لشركة Mythos بتحديد نقاط الضعف يمكن استخدامها أيضًا لاستغلالها على نطاق واسع. وجدت الاختبارات التي أجراها معهد أمن الذكاء الاصطناعي في المملكة المتحدة أن النموذج يمكنه إكمال العمليات السيبرانية المعقدة بشكل مستقل.

وقد كشف النموذج أيضًا عن قيود في أنظمة تقييم الذكاء الاصطناعي الحالية، مع اعتراف أنثروبيك بأن العديد من معايير الأمن السيبراني الحالية لم تعد كافية لقياس قدرات أحدث نظام لها.

ومع ذلك، ادعت مجموعة من الباحثين الأسبوع الماضي أنهم تمكنوا من إعادة إنتاج نتائج ميثوس باستخدام النماذج المتاحة للجمهور.

وعلى الرغم من الدعوات داخل أجزاء من الحكومة الأمريكية لوقف استخدام التكنولوجيا بسبب المخاوف بشأن تطبيقاتها المحتملة في الحرب والمراقبة، فقد أفادت التقارير أن وكالة الأمن القومي بدأت في اختبار نسخة معاينة للنموذج على الشبكات السرية. في سوق التنبؤ Myriad، المملوكة لشركة Dastan الأم لشركة Decrypt، وضع المستخدمون فرصة بنسبة 49٪ لإصدار Claude Mythos للجمهور على نطاق أوسع بحلول 30 يونيو.

اقترح ألتمان أن الخطاب حول أنظمة الذكاء الاصطناعي شديدة الخطورة قد يتزايد مع تحسن القدرات، لكنه قال إنه لا ينبغي أن تؤخذ كل هذه الادعاءات على محمل الجد.

وقال: "سيكون هناك الكثير من الخطابات حول النماذج التي تعتبر خطيرة للغاية بحيث لا يمكن إطلاقها. وستكون هناك أيضًا نماذج خطيرة للغاية يجب إطلاقها بطرق مختلفة". "أنا متأكد من أن Mythos هو نموذج رائع للأمن السيبراني ولكن أعتقد أن لدينا خطة نشعر بالرضا تجاهها بشأن كيفية طرح هذا النوع من القدرات للعالم."

ورفض ألتمان أيضًا الاقتراحات القائلة بأن OpenAI تعمل على تقليص إنفاقها على البنية التحتية، قائلاً إن الشركة ستواصل توسيع قدرتها الحاسوبية على الرغم من تغير الروايات.

وقال: "لا أعرف من أين يأتي ذلك... الناس يريدون حقاً أن يكتبوا قصة الانسحاب". "ولكن قريبًا جدًا سيتكرر الأمر مرة أخرى، ’أوبن إيه آي متهورة للغاية. كيف يمكنهم إنفاق هذا المبلغ الجنوني؟‘".