تحذير إنساني: الذكاء الاصطناعي على أعتاب أن يصبح أ...

تحذر شركة الذكاء الاصطناعي Anthropic، ومقرها الولايات المتحدة، من أن تطوير الذكاء الاصطناعي يتقدم بوتيرة يمكن أن تشهد قريبًا قيام الوكلاء ببناء أنفسهم وتدريبهم وتحسينهم دون مساهمة بشرية، مما يوصي بتباطؤ التطوير.

وفي تدوينة نُشرت يوم الخميس، قالت مارينا فافارو، رئيسة معهد الأنثروبيك، والمؤسس المشارك للأنثروبيك جاك كلارك، إن الوكلاء يمكنهم بالفعل تشغيل التعليمات البرمجية بأنفسهم، وتفويض ساعات العمل إلى وكلاء آخرين، ويمكن أن يكونوا على أعتاب تولي المسؤولية بالكامل.

وقالوا: "في معظم تاريخ الذكاء الاصطناعي، قاد البشر كل خطوة في دورة تطويره. ولكن في أنثروبك، نقوم بتفويض حصة متزايدة من تطوير الذكاء الاصطناعي إلى أنظمة الذكاء الاصطناعي نفسها، مما يؤدي إلى تسريع عملنا".

وأضاف فافارو وكلارك: "إذا أخذنا هذا الاتجاه بعيدًا بما فيه الكفاية، ونظرًا لما يكفي من الحوسبة، فإن هذا الاتجاه يشير إلى نظام ذكاء اصطناعي قادر على تصميم وتطوير خليفته بشكل مستقل تمامًا".

يتقدم تطوير الذكاء الاصطناعي بوتيرة قد تؤدي إلى تحسين الوكلاء دون تدخل بشري. المصدر: الأنثروبي

هناك مخاوف بشأن ما يمكن أن يحدث إذا أصبح الذكاء الاصطناعي أكثر ذكاءً من تلقاء نفسه. في ديسمبر، قالت OpenAI إنها تبحث في كيفية تطوير ونشر الذكاء الاصطناعي ذو القدرات المتزايدة بأمان، بما في ذلك الذكاء الاصطناعي القادر على التحسين الذاتي المتكرر.

وقالت: "نريد أن تتبع هذه الأنظمة باستمرار النوايا البشرية في سيناريوهات العالم الحقيقي المعقدة وظروف الخصومة، وتتجنب السلوك الكارثي، وتظل قابلة للتحكم والتدقيق ومتوافقة مع القيم الإنسانية".

تقوم الشركة أيضًا بتعيين باحث للاستعداد المتكرر للتحسين الذاتي، والذي يشكل جزءًا من فريق أبحاث السلامة الخاص بها.

يتضاعف تحسين نموذج الذكاء الاصطناعي تقريبًا كل أربعة أشهر، بدلًا من كل سبعة أشهر، وفقًا لفافارو وكلارك. يتقلص دور البشر في كل خطوة، حيث قام نموذج Anthropic’s Claude بتأليف حوالي 80% من التعليمات البرمجية التي تم دمجها في قاعدة تعليمات Anthropic.

وقالوا: "لم نصل إلى هذه المرحلة بعد، والتحسين الذاتي المتكرر ليس أمرا حتميا. لكنه قد يأتي في وقت أقرب مما تستعد له معظم المؤسسات".

وأضافوا: "بمجرد أن تصل جودة التعليمات البرمجية التي كتبها الإنسان والذكاء الاصطناعي إلى التكافؤ، سيتوقف البشر عن كتابة التعليمات البرمجية بالكامل ويتحولون إلى مراجعتها فقط. ولكن إذا لم يتمكنوا من مراجعة التعليمات البرمجية بالسرعة التي يستطيع كلود إنشاؤها بها، فإن المراجعة البشرية ستصبح عنق الزجاجة أمام تطوير الذكاء الاصطناعي".

وقال فافارو وكلارك أيضًا إن إبطاء التنمية لإتاحة المزيد من الوقت لمعالجة آثارها "الهائلة" سيكون أمرًا مثاليًا.

في أبريل/نيسان، استبعدت شركة أنثروبيك إطلاق نموذج الذكاء الاصطناعي الخاص بها، كلود ميثوس، للجمهور بسبب مخاوف بشأن التهديد الذي يواجه الأمن السيبراني العالمي.

كان كلود ميثوس قادرًا على إنشاء ثغرات برمجية بسهولة، مما دفع Anthropic إلى استبعاد الإصدار العام في الوقت الحالي. المصدر: الأنثروبي

في الوقت نفسه، أصدرت مجموعة من قادة التكنولوجيا، بما في ذلك بعض من Anthropic وOpenAI، خطابًا مفتوحًا يوم الخميس، يحثون فيه المشرعين على سن حواجز حماية أقوى حول التكنولوجيا بسبب المخاوف من إمكانية استخدامها للتغلب على "حواجز المعرفة" التي منعت تاريخيًا الجهات الفاعلة السيئة من صنع أسلحة بيولوجية.

وقال فافارو وكلارك: "نعتقد أنه سيكون من الجيد للعالم أن يكون لديه خيار إبطاء أو إيقاف تطوير الذكاء الاصطناعي الحدودي مؤقتًا لتمكين الهياكل المجتمعية وأبحاث المواءمة من مواكبة تقدم التكنولوجيا".

"ولكن إذا سمح التباطؤ ببساطة للجهات الفاعلة الأقل حذرا باللحاق بالركب التكنولوجي، فقد يترك الجميع أقل أمانا. وبدون آلية تنسيق عالمية، سيتعين على الشركات والحكومات اتخاذ قرارات صعبة بشأن السلامة في ظل ضغوط تنافسية وجيوسياسية".

أصبح وكلاء الذكاء الاصطناعي يتمتعون بشعبية متزايدة، بما في ذلك بين مستخدمي العملات المشفرة. تكهن بعض المديرين التنفيذيين للعملات المشفرة بأن وكلاء الذكاء الاصطناعي الذين يقومون بتسوية المعاملات يمكن أن يدفعوا التبني وحجم المعاملات. توقع جيريمي ألاير، الرئيس التنفيذي لشركة Circle، في يناير أن يعمل مليارات من وكلاء الذكاء الاصطناعي نيابة عن المستخدمين في غضون خمس سنوات.

أفادت شركة استثمار العملات المشفرة Keyrock الشهر الماضي أن وكلاء الذكاء الاصطناعي الذين يقومون بتسوية المدفوعات انتقلوا من المفهوم إلى الواقع في الأشهر الـ 12 الماضية، حيث تمت تسوية 73 مليون دولار عبر 176 مليون معاملة.

المجلة: أول قضية سحب بساط لعملة الميمكوين في كوريا، ومراجعة قواعد العملة المشفرة في الصين: آسيا إكسبريس