Верховный суд Небраски отстранил от должности адвоката, который использовал ИИ для написания записки, полной сфабрикованных цитат

Новости о галлюцинациях искусственного интеллекта перешли от смущения в зале суда к последствиям для карьеры, поскольку Верховный суд Небраски постановил отстранить от должности адвоката из Омахи Грега Лейка до дальнейшего уведомления после того, как судебная записка, которую он представил в апелляции о разводе, содержала 57 неверных цитат из 63, включая 20 полностью сфабрикованных ссылок на дела и четыре полностью вымышленных дела, которые не существуют ни в одной юрисдикции.

Новости о галлюцинациях искусственного интеллекта повлекли за собой самые суровые на сегодняшний день профессиональные санкции в Соединенных Штатах: 15 апреля Верховный суд Небраски вынес решение о бессрочном отстранении адвоката Грега Лейка после нескольких месяцев разбирательств, которые начались, когда судьи во время устных прений в феврале заметили, что в заключении содержатся ошибки, которые они не могли примирить с какой-либо опубликованной прецедентной практикой штата Небраска.

Заявление было подано в апелляции о разводе, в которой оспаривалась дата вступления в силу раздела семейного имущества и опеки над детьми. Из 63 цитат, сделанных Лейком, 57 содержали те или иные дефекты. Двадцать из них были тем, что суды теперь называют галлюцинациями: реалистично выглядящими, но полностью сфабрикованными отсылками, созданными моделью искусственного интеллекта, которая правдоподобно угадывала, о чем спрашивает пользователь, и выдавала убедительно выглядящие, но несуществующие цитаты.

Что произошло во время устного спора и после него

Когда судья спросил Лейка во время февральского слушания, как произошли ошибки, он сказал, что был на 10-й годовщине своей свадьбы, его компьютер сломался во время путешествия, и он загрузил неправильную версию заключения. Судьи сочли это объяснение неубедительным. Дисциплинарный советник провел расследование и обнаружил другую версию: Лейк использовал искусственный интеллект для составления заключения, а затем отказал в нем суду, что представляет собой нарушение правил профессионального поведения, требующих откровенности по отношению к трибуналу.

В единогласном мнении Верховного суда штата Небраска, отклонившего это заключение и направившего Лейка к дисциплинарной ответственности в марте, прямо говорилось: «ИИ, как и другие технологические инструменты, может принести пользу юридическому сообществу, но его следует использовать с осторожностью и смирением». Суд назвал ошибки легко предотвратимыми с помощью базовой проверки с помощью стандартных платформ юридических исследований и установил, что Лейк не выполнил свою обязанность быть откровенным.

Более широкий ландшафт санкций

Небраска — не единичный случай. Исследователь Дэмиен Шарлотен из HEC Paris, который ведет базу данных о случаях галлюцинаций ИИ в судебных разбирательствах, в настоящее время отслеживает более 1200 таких дел по всему миру, из которых около 800 рассматриваются в судах США. Он описал темпы рассмотрения как «десять дел из десяти разных судов в один день».

В штате Орегон установлена ​​крупнейшая совокупная санкция, наложенная на одного адвоката за ошибки в подаче документов, связанные с ИИ, — 109 700 долларов США. Шестой округ наложил штраф в размере 30 000 долларов на двух адвокатов штата Теннесси, что стало крупнейшей федеральной апелляционной санкцией, связанной с сфабрикованными обвинениями. Бессрочное отстранение штата Небраска, если оно будет поддержано какой-либо апелляцией, станет первой дисциплинарной мерой, которая полностью приостановит практику из-за ошибок подачи заявок, связанных с ИИ в США, что приведет к перерастанию последствий от финансовых санкций до приостановки карьеры.

Почему это важно для сектора искусственного интеллекта

Каждая громкая юридическая санкция, связанная с моделями ИИ, посылает нормативный сигнал, определяющий, как инструменты ИИ разрешено использовать в профессиональных условиях. Для оценки рисков ИИ в сфере инвестиций и технологий реакция юристов на галлюцинации — это канарейка в угольной шахте: она определяет, что означает «ответственное развертывание» в первой регулируемой среде с высокими ставками, приводящей к последствиям. Рынки токенов ИИ и инфраструктуры ИИ столкнутся с аналогичной нормативной базой, поскольку та же логика распространяется на финансовые консультации, медицинские решения и правительственные применения одних и тех же базовых моделей.