AI کوڈنگ تک بلا روک ٹوک رسائی کمیونٹی سے چلنے والی نگرانی کی حدود پر بحث کو جنم دیتی ہے۔

AI سیفٹی گروپ ایلس کے ساتھ فنانشل ٹائمز کی جانچ کے مطابق، بڑے ٹیکنالوجی گروپس کے اوپن سورس مصنوعی ذہانت کے ماڈلز پر حفاظتی تحفظات کو عوامی طور پر دستیاب ٹولز کا استعمال کرتے ہوئے منٹوں میں ہٹایا جا سکتا ہے، جس سے سسٹمز کو بائیو ویپنز، مالویئر اور دیگر ممنوعہ مواد سمیت موضوعات پر ردعمل پیدا کرنے کی اجازت ملتی ہے۔

پیر کو جاری کردہ نتائج ان خدشات میں اضافہ کرتے ہیں کہ ایک بار ماڈل کے وزن کو جاری کرنے اور اس میں ترمیم کرنے کے بعد ڈویلپرز کے ذریعہ سرایت شدہ حفاظتی اقدامات برقرار نہیں رہ سکتے ہیں، یہ سوال اٹھاتے ہیں کہ AI حفاظت کی ذمہ داری کہاں بیٹھنی چاہئے۔

عوامی کوڈ ریپوزٹریز پر دستیاب ٹولز کا استعمال کرتے ہوئے کی جانے والی تحقیقات میں پتا چلا ہے کہ میٹا اور گوگل سمیت کمپنیوں کے تیار کردہ ماڈلز پر 10 منٹ سے کم وقت میں بغیر کسی ماہر ہارڈ ویئر کے ہٹائے جا سکتے ہیں۔

اس کے بعد سسٹمز کے تبدیل شدہ ورژن ان اشارے کا جواب دینے کے قابل تھے کہ اصل ماڈلز نے انکار کر دیا، بشمول مالویئر اور کیمیائی خطرات سے منسلک درخواستیں، ٹیسٹ کے مطابق۔

نتائج پالیسی سازوں کے لیے ایک چیلنج کو نمایاں کرتے ہیں کیونکہ اوپن سورس سسٹم زیادہ قابل اور وسیع پیمانے پر تقسیم ہوتے ہیں۔

ملکیتی ماڈلز کے برعکس، اوپن سورس سسٹمز کو ان کے اصل ڈویلپرز کے کنٹرول سے باہر ڈاؤن لوڈ، تبدیل اور دوبارہ تقسیم کیا جا سکتا ہے، جس سے ریلیز کے بعد حفاظتی رکاوٹوں کے نفاذ کو مزید مشکل بنایا جا سکتا ہے اور یہ سوال پیدا ہوتا ہے کہ آیا بنیادی طور پر ماڈل کی ترقی پر مرکوز ضابطہ کافی ہے۔

حکمرانی کی حدود

عالمی ریگولیٹرز جدید AI سسٹمز کے لیے فریم ورک تیار کر رہے ہیں، بشمول یورپی یونین کا AI ایکٹ اور برطانیہ اور ریاستہائے متحدہ میں ابھرتے ہوئے فرنٹیئر ماڈل سیفٹی اپروچز۔ تاہم، ماہرین کا کہنا ہے کہ نتائج موجودہ حکمرانی کے مفروضوں میں حدود کو ظاہر کرتے ہیں۔

یورپی یونین کا اے آئی ایکٹ۔ ماخذ: یورپی کمیشن

مارکس لیون، وکندریقرت فزیکل انفراسٹرکچر نیٹ ورک کمپنی XYO کے شریک بانی، نے Cointelegraph کو بتایا کہ حفاظتی اقدامات کو تیزی سے ہٹانے سے پتہ چلتا ہے کہ "ایک بار کھلے ماڈلز کے جاری ہونے کے بعد شفٹوں کو کتنی تیزی سے کنٹرول کیا جاتا ہے،" انہوں نے مزید کہا کہ زیادہ تر گورننس کی تجاویز اب بھی ماڈل بنانے کے مرحلے پر بہت زیادہ توجہ مرکوز کرتی ہیں۔

ڈیوڈ منارش، Olas کے ایک بانی رکن اور Valory کے چیف ایگزیکٹو، ایک AI ایجنٹ پلیٹ فارم، نے Cointelegraph کو بتایا کہ حکومتوں کا امکان نہیں ہے کہ وہ پرعزم اداکاروں کو ماڈلز تک رسائی یا ان میں ترمیم کرنے سے روکیں جب وزن کو بڑے پیمانے پر آن لائن عکس بند کر دیا جائے۔ انہوں نے کہا کہ اگر صرف اصل ڈویلپر پرت کے بجائے تعیناتی، تقسیم اور نقصان دہ حقیقی دنیا کے استعمال پر توجہ مرکوز کی جائے تو ضابطہ زیادہ موثر ہوگا۔

کنٹرول نیچے کی طرف جاتا ہے۔

ایک بلاک چین سیکیورٹی فرم CertiK کے چیف ایگزیکٹو اور شریک بانی Ronghui Gu نے Cointelegraph کو بتایا کہ ڈویلپر پرت پر گورننس اب بھی اہم ہے، لیکن جب ماڈلز کو آزادانہ طور پر ڈاؤن لوڈ اور دوبارہ تقسیم کیا جا سکتا ہے تو یہ ناکافی ہو جاتا ہے۔

گو نے کہا کہ پالیسی سازوں کا تجارتی ہوسٹنگ، انٹرپرائز کی تعیناتی اور ڈسٹری بیوشن چینلز پر اثر انداز ہونے کا زیادہ امکان ہے بجائے اس کے کہ ترمیم شدہ ماڈلز کو مکمل طور پر پھیلنے سے روکا جائے۔

اس نے استدلال کیا کہ سیکیورٹی کے معیارات کو تھرڈ پارٹی AI ٹولز اور خود مختار AI ایجنٹ کے ماحول میں بدنیتی پر مبنی یا زیادہ خطرے والے رویے کی نشاندہی کرنے کے لیے تیار ہونا چاہیے تاکہ رن ٹائم خطرات کو بہتر طور پر قابو کیا جا سکے کیونکہ ایجنٹ زیادہ خود مختار کردار ادا کرتے ہیں۔

لیون نے کہا کہ جب ماڈلز کی عکس بندی اور دوبارہ تقسیم ہو جاتی ہے تو کنٹینمنٹ تیزی سے مشکل ہو جاتا ہے، یعنی پالیسی سازوں کو صرف ماڈل ڈیزائن کے بجائے انفراسٹرکچر اور ڈسٹری بیوشن پوائنٹس پر زیادہ توجہ دینے کی ضرورت پڑ سکتی ہے۔

لیون اور منارش دونوں نے مسئلہ کا موازنہ اوپن سورس سافٹ ویئر اور کرپٹو نیٹ ورکس سے کیا، جہاں کوڈ کے عوامی طور پر دستیاب ہونے کے بعد تقسیم کو دبانے کی کوششیں تاریخی طور پر مشکل ثابت ہوئی ہیں۔ مینارش نے مزید کہا کہ اگرچہ حفاظتی پرتیں غیر معمولی غلط استعمال کو روک سکتی ہیں، لیکن انہیں نفیس اداکاروں کے خلاف مضبوط تحفظ کے لیے غلط نہیں سمجھا جانا چاہیے۔