المحكمة العليا في نبراسكا توقف المحامي الذي استخدم الذكاء الاصطناعي لكتابة ملخص مليء بالاقتباسات الملفقة

انتقلت أخبار هلوسة الذكاء الاصطناعي من الإحراج في قاعة المحكمة إلى العواقب المهنية حيث قضت المحكمة العليا في نبراسكا بإيقاف محامي أوماها جريج ليك عن العمل حتى إشعار آخر، بعد أن احتوت مذكرة المحكمة التي قدمها في استئناف الطلاق على 57 استشهادًا معيبًا من أصل 63، بما في ذلك 20 مرجعًا لقضايا ملفقة بالكامل وأربع قضايا مخترعة بالكامل لا وجود لها في أي ولاية قضائية.

أنتجت أخبار هلوسة الذكاء الاصطناعي أقسى عقوبة مهنية في الولايات المتحدة حتى الآن، حيث أصدرت المحكمة العليا في نبراسكا قرارًا بإيقاف المحامي جريج ليك عن العمل لأجل غير مسمى في 15 أبريل/نيسان، بعد أشهر من الإجراءات التي بدأت عندما لاحظ القضاة في المرافعة الشفهية في فبراير/شباط أن المذكرة تحتوي على أخطاء لا يمكنهم التوفيق بينها وبين أي سوابق قضائية منشورة في نبراسكا.

تم تقديم المذكرة في استئناف الطلاق الذي يتنازع على التاريخ الفعلي لتقسيم الأصول الزوجية وحضانة الأطفال. من بين 63 اقتباسًا قدمها ليك، احتوى 57 منها على شكل من أشكال الخلل. عشرون منها كانت ما تسميه المحاكم الآن الهلوسة: مراجع تبدو واقعية ولكنها ملفقة بالكامل تم إنشاؤها بواسطة نموذج الذكاء الاصطناعي الذي خمن بشكل معقول ما كان يطلبه المستخدم وأنتج استشهادات ذات مظهر مقنع ولكنها غير موجودة.

ماذا حدث في الحجة الشفوية وبعدها

عندما سأل القاضي ليك خلال جلسة الاستماع في فبراير/شباط عن كيفية حدوث الأخطاء، قال إنه كان في الذكرى السنوية العاشرة لزواجه، وتعطل جهاز الكمبيوتر الخاص به أثناء السفر، وقام بتحميل نسخة خاطئة من المذكرة. ووجد القضاة أن التفسير غير مقنع. قام مستشار التأديب بالتحقيق ووجد رواية مختلفة: أن ليك استخدم الذكاء الاصطناعي لصياغة المذكرة ثم رفض تقديمها إلى المحكمة، مما شكل انتهاكًا لقواعد السلوك المهني التي تتطلب الصراحة تجاه المحكمة.

وقد نص الرأي الصادر بالإجماع عن المحكمة العليا في نبراسكا، والذي رفض المذكرة وأحال ليك للتأديب في مارس/آذار، بوضوح على ما يلي: "إن الذكاء الاصطناعي، مثل الأدوات التكنولوجية الأخرى، يمكن أن يكون مفيدا للمجتمع القانوني، ولكن يجب استخدامه بحذر وتواضع". ووصفت المحكمة الأخطاء التي يمكن منعها بسهولة من خلال التحقق الأساسي من خلال منصات البحث القانوني القياسية، ووجدت أن ليك أظهر فشلًا في واجبه الصريح.

مشهد العقوبات الأوسع

نبراسكا ليست حالة معزولة. الباحث داميان شارلوتين في HEC Paris، الذي يحتفظ بقاعدة بيانات لقضايا هلوسة الذكاء الاصطناعي في الإجراءات القانونية، يتتبع الآن أكثر من 1200 حالة من هذا القبيل على مستوى العالم، منها ما يقرب من 800 حالة من المحاكم الأمريكية. ووصف الوتيرة بأنها تصل إلى "عشر قضايا من عشر محاكم مختلفة في يوم واحد".

تحمل ولاية أوريغون أكبر عقوبة إجمالية مرتبطة بمحامي واحد بسبب أخطاء التسجيل المتعلقة بالذكاء الاصطناعي، بقيمة 109.700 دولار. فرضت الدائرة السادسة غرامة قدرها 30 ألف دولار على اثنين من المحامين في ولاية تينيسي، وهي أكبر عقوبة استئناف فيدرالية حتى الآن مرتبطة بالاستشهادات الملفقة. سيكون تعليق نبراسكا لأجل غير مسمى، إذا تم تأييده في أي استئناف، أول إجراء تأديبي لتعليق الممارسة بالكامل بسبب أخطاء التسجيل المتعلقة بالذكاء الاصطناعي في الولايات المتحدة، مما يؤدي إلى تصعيد العواقب من العقوبات المالية إلى التعليق الوظيفي.

لماذا هذا مهم لقطاع الذكاء الاصطناعي

ترسل كل عقوبة قانونية رفيعة المستوى مرتبطة بنماذج الذكاء الاصطناعي إشارة تنظيمية تعمل على معايرة كيفية السماح باستخدام أدوات الذكاء الاصطناعي في الإعدادات المهنية. بالنسبة لتقييمات مخاطر الذكاء الاصطناعي عبر مشهد الاستثمار والتكنولوجيا، فإن استجابة مهنة المحاماة للهلوسة هي بمثابة طائر الكناري في منجم الفحم: فهي تحدد ماذا يعني "النشر المسؤول" في أول بيئة منظمة عالية المخاطر تؤدي إلى عواقب. ستواجه أسواق البنية التحتية للذكاء الاصطناعي والرموز المميزة للذكاء الاصطناعي أطرًا تنظيمية مماثلة حيث يمتد نفس المنطق إلى الاستشارات المالية والقرارات الطبية والتطبيقات الحكومية لنفس النماذج الأساسية.