Sullivan et Cromwell présentent des excuses au tribunal après que l'IA ait généré de fausses citations juridiques

Table des matières Un cabinet d'avocats prestigieux soumet un document judiciaire avec des citations fabriquées par l'IA. Sullivan & Cromwell reconnaît les échecs de vérification dans une affaire de faillite. Les inexactitudes générées par l'IA compromettent la soumission à la Cour fédérale. L'avocat adverse découvre une jurisprudence fabriquée dans le dossier juridique. L'incident souligne le besoin critique de protocoles de validation d'IA améliorés. Sullivan & Cromwell a publiquement reconnu avoir soumis un document judiciaire truffé de citations de cas fabriquées par l'IA et de références juridiques inexactes. L’incident a incité l’entreprise à mener une enquête interne approfondie sur ses mesures de protection en matière d’intelligence artificielle. Le prestigieux cabinet d'avocats a découvert des failles substantielles dans un document de faillite du chapitre 15 lié au litige du groupe Prince. Les systèmes d’intelligence artificielle ont produit des références de cas fictives et analysé de manière incorrecte les dispositions des lois américaines sur la faillite. Ces fabrications ont été incluses dans les documents présentés à un tribunal fédéral des faillites de New York. Andrew Dietderich, qui supervise la division restructuration du cabinet, a assumé personnellement la responsabilité des lacunes du document. Il a vérifié que même si l’entreprise maintient des directives établies en matière d’utilisation de l’IA, ces protocoles n’ont pas été respectés lors de la création de ce document particulier. L’organisation a depuis mis en œuvre des mesures correctives pour éviter la répétition d’erreurs liées à l’IA dans les soumissions juridiques ultérieures. Boies Schiller Flexner, agissant au nom des parties adverses, a identifié les divergences et les a portées à l'attention des tribunaux. Leur examen a révélé que certains cas référencés étaient totalement inexistants ou citaient des opinions judiciaires totalement indépendantes. Par conséquent, la société a déposé une version modifiée avec des annotations identifiant clairement les erreurs produites par l’IA. Cet épisode démontre les difficultés généralisées auxquelles sont confrontés les cabinets d’avocats qui intègrent l’intelligence artificielle pour améliorer leur productivité et gérer la charge de travail. De nombreux cabinets juridiques déploient des systèmes d’IA pour la recherche juridique et la création de documents, mais des protocoles de vérification inadéquats continuent de créer des vulnérabilités. Les professionnels du droit doivent composer avec la tension entre efficacité opérationnelle et précision lorsqu’ils intègrent l’IA dans les flux de travail de leur cabinet. Sullivan & Cromwell a déclaré qu'elle appliquait des politiques rigoureuses d'utilisation de l'IA, y compris un examen humain obligatoire de tous les documents générés par l'IA. L'entreprise a reconnu que les mécanismes de contrôle de qualité avaient échoué dans cette affaire, permettant au contenu défectueux d'avancer sans contrôle. L’incident a amplifié l’examen des cadres de gouvernance de l’intelligence artificielle dans des contextes juridiques critiques. Les données de l’industrie révèlent une fréquence croissante d’hallucinations liées à l’IA apparaissant dans les dossiers judiciaires, impliquant notamment des précédents juridiques inventés. Les recherches documentent plus de 1 300 cas de ce type dans le monde, la majorité étant concentrée dans les tribunaux américains. Cette tendance émergente souligne la nécessité de mécanismes d’authentification plus rigoureux lors du déploiement de l’IA dans les processus de documentation juridique. Le litige du Groupe Prince se concentre sur des accusations de vastes stratagèmes frauduleux, englobant des pratiques de travail forcé et une mauvaise conduite financière. Les procureurs américains ont engagé des poursuites pénales et des efforts de confiscation de biens liés aux opérations de l’organisation. Par conséquent, la précision des documents juridiques devient primordiale dans les affaires impliquant des allégations transnationales complexes. Sullivan & Cromwell a déjà représenté des clients dans des affaires importantes, notamment la procédure d'insolvabilité de la bourse FTX. Le cabinet facture des taux majorés et gère des dossiers de réorganisation sophistiqués couvrant plusieurs juridictions juridiques. Cette panne liée à l’IA a généré des demandes de renseignements concernant le contrôle qualité dans les grandes entreprises juridiques. Le cabinet poursuit son enquête interne en cours tout en réévaluant les programmes éducatifs et les cadres de conformité régissant le déploiement de l’intelligence artificielle. Son objectif comprend le renforcement des mesures de protection et le renforcement de la responsabilité tout au long des flux de création de documents. Avec l’accélération de l’intégration de l’intelligence artificielle, le secteur juridique est confronté à des attentes croissantes pour garantir la fiabilité et éliminer les erreurs coûteuses.