ستقوم الولايات المتحدة بمراجعة نماذج الذكاء الاصطناعي من Microsoft وGoogle وxAI قبل الإصدار العام

وافقت شركات Microsoft وGoogle وxAI على تزويد الحكومة الأمريكية بإمكانية الوصول المبكر إلى نماذج الذكاء الاصطناعي القادمة، مما يسمح للمسؤولين بفحص المخاطر المحتملة على الأمن القومي قبل إصدار الأنظمة للجمهور.

وسيمكن هذا الترتيب مركز معايير الذكاء الاصطناعي والابتكار (CAISI)، الذي يعمل تحت إشراف وزارة التجارة الأمريكية، من اختبار هذه النماذج مسبقًا.

ووفقًا للوكالة، ستتضمن العملية تقييمات فنية وأبحاثًا حول كيفية أداء الأنظمة، فضلاً عن المخاطر التي قد تشكلها.

أدت التطورات الأخيرة في الذكاء الاصطناعي، بما في ذلك أنظمة مثل Anthropic Mythos، إلى تكثيف المخاوف في واشنطن وعبر قطاعات الشركات. وقد حذر المسؤولون والمديرون التنفيذيون من إمكانية إساءة استخدام النماذج ذات القدرات المتزايدة، لا سيما في الهجمات الإلكترونية حيث قد تؤدي الأتمتة إلى تعزيز حجم وسرعة النشاط الضار.

لم تتم الإشارة إلى الأنثروبي في الإعلان الأخير. وكانت الشركة على خلاف مع وزارة الدفاع الأمريكية بشأن مدى الضمانات المطبقة عند استخدام أدواتها في البيئات العسكرية، مما يسلط الضوء على التوترات المستمرة حول كيفية نشر هذه الأنظمة.

وقال كريس فال، مدير CAISI: "إن علم القياس المستقل والصارم ضروري لفهم الذكاء الاصطناعي الحدودي وآثاره على الأمن القومي"، مشددًا على الحاجة إلى أطر تقييم منظمة مع تقدم قدرات النموذج.

تعمل CAISI كمركز مركزي للحكومة الفيدرالية لاختبار أنظمة الذكاء الاصطناعي المتقدمة. وقالت إنها أجرت بالفعل أكثر من 40 تقييمًا، بما في ذلك النماذج التي لم تكن متاحة للجمهور بعد وقت الاختبار.

لدعم هذه التقييمات، غالبًا ما يرسل المطورون إصدارات معدلة من نماذجهم مع تخفيف بعض حواجز السلامة. ويسمح ذلك للوكالة بدراسة أسوأ السيناريوهات وتحديد نقاط الضعف التي قد لا تظهر في ظل ظروف الاستخدام القياسية.

وتأتي هذه الخطوة بعد وقت قصير من قيام البنتاغون بتوسيع شراكاته الخاصة في مجال الذكاء الاصطناعي. قالت وزارة الدفاع الأمريكية الأسبوع الماضي إنها وقعت اتفاقيات مع سبع شركات لنشر قدرات الذكاء الاصطناعي المتقدمة عبر الشبكات السرية، حيث تتطلع إلى تنويع مجموعتها من مزودي التكنولوجيا الذين يدعمون العمليات العسكرية.