امریکہ عوامی ریلیز سے پہلے مائیکروسافٹ، گوگل، xAI کے AI ماڈلز کا جائزہ لے گا۔

مائیکروسافٹ، گوگل، اور xAI نے امریکی حکومت کو آنے والے مصنوعی ذہانت کے ماڈلز تک جلد رسائی فراہم کرنے پر اتفاق کیا ہے، جس سے حکام کو نظاموں کو عوام کے لیے جاری کیے جانے سے پہلے ممکنہ قومی سلامتی کے خطرات کا جائزہ لینے کی اجازت دی جائے گی۔

یہ انتظام سنٹر فار AI اسٹینڈرڈز اینڈ انوویشن (CAISI) کو قابل بنائے گا، جو کہ ریاستہائے متحدہ کے محکمہ تجارت کے تحت کام کرتا ہے، ان ماڈلز کی پہلے سے جانچ کر سکتا ہے۔

ایجنسی کے مطابق، اس عمل میں تکنیکی تشخیص اور تحقیق شامل ہوگی کہ سسٹم کس طرح کارکردگی کا مظاہرہ کرتے ہیں، نیز ان سے لاحق خطرات۔

AI میں حالیہ پیشرفت، بشمول Anthropic Mythos جیسے سسٹمز نے واشنگٹن اور تمام کارپوریٹ سیکٹرز میں تشویش کو تیز کر دیا ہے۔ حکام اور ایگزیکٹوز نے خبردار کیا ہے کہ تیزی سے قابل ماڈلز کا غلط استعمال کیا جا سکتا ہے، خاص طور پر سائبر حملوں میں جہاں آٹومیشن نقصان دہ سرگرمیوں کے پیمانے اور رفتار کو بڑھا سکتی ہے۔

تازہ ترین اعلان میں انتھروپک کا حوالہ نہیں دیا گیا تھا۔ کمپنی کا ریاستہائے متحدہ کے محکمہ دفاع کے ساتھ اس حد تک اختلاف رہا ہے کہ جب اس کے ٹولز فوجی ماحول میں استعمال کیے جاتے ہیں تو اس حد تک حفاظتی اقدامات لاگو ہوتے ہیں، جو اس طرح کے نظاموں کو کیسے تعینات کیا جانا چاہیے اس کے ارد گرد جاری تناؤ کو اجاگر کرتا ہے۔

CAISI کے ڈائریکٹر کرس فال نے کہا کہ "آزاد، سخت پیمائش کی سائنس سرحدی AI اور اس کے قومی سلامتی کے مضمرات کو سمجھنے کے لیے ضروری ہے۔

CAISI ایڈوانسڈ AI سسٹمز کی جانچ کے لیے وفاقی حکومت کے مرکزی مرکز کے طور پر کام کرتا ہے۔ اس نے کہا کہ اس نے پہلے ہی 40 سے زیادہ جائزے کیے ہیں، بشمول ان ماڈلز پر جو ابھی تک جانچ کے وقت عوامی طور پر دستیاب نہیں ہوئے تھے۔

ان جائزوں کی حمایت کرنے کے لیے، ڈویلپرز اکثر اپنے ماڈلز کے ترمیم شدہ ورژن جمع کراتے ہیں جن میں کچھ حفاظتی پٹیاں نرم ہوتی ہیں۔ اس سے ایجنسی کو بدترین حالات کی جانچ پڑتال کرنے اور ان کمزوریوں کی نشاندہی کرنے کی اجازت ملتی ہے جو معیاری استعمال کے حالات میں ظاہر نہیں ہوسکتی ہیں۔

یہ اقدام پینٹاگون کی جانب سے اپنی AI شراکت داری کو بڑھانے کے فوراً بعد سامنے آیا ہے۔ ریاستہائے متحدہ کے محکمہ دفاع نے گزشتہ ہفتے کہا کہ اس نے کلاسیفائیڈ نیٹ ورکس میں جدید ترین AI صلاحیتوں کو تعینات کرنے کے لیے سات کمپنیوں کے ساتھ معاہدوں پر دستخط کیے ہیں، کیونکہ وہ فوجی آپریشنز میں معاونت کرنے والے ٹیکنالوجی فراہم کرنے والوں کے اپنے پول کو متنوع بنانا چاہتا ہے۔