يكشف الذكاء الاصطناعي عن نقاط الضعف، مما يخلق فرصة قصيرة ولكن مثيرة للقلق للقراصنة للهجوم

باختصار

تقول شركة Anthropic إن الذكاء الاصطناعي الخاص بها قد كشف عن عشرات الآلاف من نقاط الضعف في البرامج.

وحذر الرئيس التنفيذي داريو أمودي من أن هناك فترة زمنية تتراوح من 6 إلى 12 شهرًا لإصلاحها.

ويقول المنتقدون إن المخاطر قد تكون مبالغ فيها حتى مع تزايد المخاوف الأمنية.

ركزت مناقشة بين الرئيس التنفيذي لشركة Anthropic، داريو أمودي، والرئيس التنفيذي لشركة JPMorgan Chase، جيمي ديمون، يوم الثلاثاء، على التهديد المتزايد للأمن السيبراني الذي يشكله الذكاء الاصطناعي لأنه يحدد نقاط الضعف بشكل أسرع مما تستطيع المؤسسات إصلاحه.

في الحدث الذي استمر لمدة ساعتين تقريبًا والمرتبط بتوجه Anthropic نحو الخدمات المالية، حيث كشفت النقاب عن وكلاء الذكاء الاصطناعي لمهام مثل الكتب الترويجية ومراجعة الأرباح وأعمال الامتثال، قال Amodei إنه قد تكون هناك نافذة مدتها ستة إلى 12 شهرًا لمعالجة عشرات الآلاف من العيوب التي كشف عنها نموذج Mythos الخاص بالشركة قبل أن تصبح القدرات المماثلة متاحة على نطاق أوسع.

وقال أمودي: "الخطر هو مجرد زيادة هائلة في كمية نقاط الضعف، وفي كمية الانتهاكات، وفي الأضرار المالية التي تحدث بسبب برامج الفدية على المدارس والمستشفيات، ناهيك عن البنوك".

تأتي أحدث تصريحات Amodei في أعقاب اختبارات سابقة مع Mozilla، عندما حددت نسخة مبكرة من Mythos 271 نقطة ضعف في متصفح Firefox في تمريرة واحدة، مما يوضح كيف يمكن للذكاء الاصطناعي فحص قواعد الأكواد الكبيرة بشكل أسرع بكثير من الباحثين البشريين.

وقالت أنثروبيك إن النموذج يمكنه الكشف عن الآلاف من نقاط الضعف غير المعروفة سابقًا عبر البرامج المستخدمة على نطاق واسع. ولا يزال العديد منها غير معلن لأنه لم يتم تصحيحها بعد، مما يترك عيوبًا دون حل.

وقال أمودي: "إذا أعلنا عن شيء ما دون إصلاحه، فسوف يستغله الأشرار".

وفي اختبار خاضع للرقابة، أكملت Mythos عمليات محاكاة متعددة الخطوات للهجوم على الشبكة دون تدخل بشري، مما يدل على القدرة على الانتقال من تحديد نقاط الضعف إلى استغلالها.

قامت شركة Anthropic بقصر النموذج على مجموعة صغيرة من الشركاء في إطار مشروع Glasswing، بهدف إصلاح نقاط الضعف قبل أن تصبح الأدوات المماثلة متاحة على نطاق واسع.

وقد أظهر الباحثون أن عناصر قدرة ميثوس يمكن إعادة إنتاجها باستخدام النماذج الحالية والتقنيات مفتوحة المصدر، مما يشير إلى أن الأدوات المماثلة يمكن أن تنتشر بشكل أسرع من المتوقع.

وأثارت التحذيرات شكوكا من داخل الصناعة. في أبريل، قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إن المخاوف بشأن Mythos قد تكون مبالغ فيها واقترح أن Anthropic تستخدم "التسويق القائم على الخوف" لتأطير المخاطر وتبرير تقييد الوصول إلى التكنولوجيا.

وقال ألتمان: "يمكنك تبرير ذلك بعدة طرق مختلفة، وبعضها حقيقي، كما لو كانت هناك مخاوف مشروعة تتعلق بالسلامة". "ولكن إذا كان ما تريده هو مثل "نحن بحاجة إلى السيطرة على الذكاء الاصطناعي، نحن فقط، لأننا أشخاص جديرون بالثقة"، أعتقد أن التسويق القائم على الخوف هو على الأرجح الطريقة الأكثر فعالية لتبرير ذلك."

وحتى مع هذا الرد، وعلى الرغم من الخلاف العام مع Anthropic، تفيد التقارير أن الحكومة الأمريكية تستخدم كلود ميثوس لفحص الشبكات السرية بحثًا عن نقاط الضعف واختبار قدراتها في مجال الأمن السيبراني، وفقًا لموقع Axios. ورغم أنه لم يتطرق إلى المعركة القانونية الجارية، إلا أن أمودي قال إن الأنثروبيك "جيدة لهذا البلد".

وقال أمودي: "أعتقد أن وجهة نظر الأنثروبيك هي نفسها كما كانت دائمًا. وفيما يتعلق بالتسييس، هذه هي النقطة التي أوضحتها بشأن كونها مبسطة ومنهجية وعادلة للجميع". "الغرض من القوانين وعدم القيام بالأشياء بطريقة مخصصة هو أن يتم التعامل مع جميع الشركات، على الأقل من حيث المبدأ - وأنا أعلم أن الأمر أكثر تعقيدا من الناحية العملية - بنفس الطريقة، وعلينا أن نطمح إلى ذلك حتى لو لم يحدث أبدا بهذه الطريقة تماما ".

وقد صور أمودي اللحظة على أنها نافذة ضيقة للعمل، محذرًا من أن مدى سرعة استجابة المنظمات يمكن أن يحدد ما إذا كانت المخاطر ستتصاعد أو ستتم السيطرة عليها.

وقال أمودي: "إنها لحظة خطر، إذا استجبنا لها بشكل صحيح، وأعتقد أننا بدأنا في اتخاذ الخطوات الأولى، فيمكننا أن نحصل على عالم أفضل على الجانب الآخر". "لا يوجد سوى الكثير من الأخطاء التي يمكن العثور عليها."