Les juges fédéraux américains avouent : l’IA a produit des ordonnances judiciaires « truffées d’erreurs »

La justice américaine prend un virage numérique risqué

Des magistrats fédéraux reconnaissent officiellement avoir utilisé des outils d'intelligence artificielle pour rédiger des décisions de justice - avec des résultats catastrophiques.

Des erreurs juridiques en cascade

Les ordonnances générées par IA contenaient des fautes de droit fondamentales, des références jurisprudentielles inventées et des raisonnements juridiquement inconsistants. Certains juges ont dû reprendre intégralement le travail de l'algorithme, perdant plus de temps qu'ils n'en gagnaient.

La technologie ne remplace pas la sagesse judiciaire

L'épisode souligne les limites de l'IA dans des domaines requérant nuance et expertise humaine. Comme dirait un vieux banquier : « Quand la technologie promet des gains d'efficacité, préparez-vous à payer la facture des erreurs. »

Un avertissement pour tous les secteurs régulés

Cette débâcle judiciaire devrait faire réfléchir tous les organismes qui envisagent d'automatiser leurs processus décisionnels - surtout quand des vies ou des fortunes sont en jeu.

Les erreurs du personnel révèlent les limites de l'IA dans les salles d'audience

Dans sa lettre , le juge Neals du district du New Jersey a déclaré qu'un projet de décision dans un procès en matière de valeurs mobilières avait été publié « par erreur – une erreur humaine » après qu'un stagiaire en droit a utilisé ChatGPT d'OpenAI pour des recherches sans autorisation ni divulgation. La décision a été rapidement retirée une fois l'erreur découverte.

Pour éviter que cela ne se reproduise, Neals a déclaré que son cabinet avait depuis créé une politique écrite en matière d'IA et amélioré son processus d'examen.

Le juge Wingate, qui siège dans le district sud du Mississippi, a déclaré qu'un assistant juridique avait utilisé l'outil d'IA Perplexity « comme assistant de rédaction fondamental pour synthétiser les informations accessibles au public sur le dossier ». 

Ce projet d'ordonnance, émis dans une affaire de droits civiques, a été ultérieurement remplacé après qu'il adentdes erreurs. Wingate a déclaré que l'incident « constituait une défaillance de la surveillance humaine », ajoutant qu'il avait depuis renforcé les procédures de révision au sein de son cabinet.

Critique de l'utilisation de l'IA dans le travail juridique

Cet épisode s'ajoute à une liste croissante de controverses impliquant des documents juridiques générés par l'IA. Des avocats de plusieurs juridictions américaines ont été sanctionnés ces dernières années pour avoir soumis des documents rédigés par des chatbots, contenant des citations de jurisprudence fabriquées et desdentmal appliqués. 

Plus tôt ce mois-ci, le système judiciaire de l’État de New York a publié une nouvelle politique qui interdit aux juges et au personnel de saisir des informations confidentielles dent privilégiées ou non publiques sur les affaires dans des outils d’IA génératifs publics.

Si la profession juridique a rapidement exploré le potentiel de l'IA pour améliorer son efficacité, les incidents dent mis en évidence les limites de cette technologie, notamment sa tendance à halluciner ou à générer des informations plausibles mais fausses . Pour les tribunaux, où l'intégrité, l'exactitude des décisions et la charge de la preuve sont primordiales, de telles défaillances risquent de saper la confiance du public dans le système judiciaire.

Grassley, qui a félicité Wingate et Neals pour avoir reconnu leurs erreurs, a également exhorté le pouvoir judiciaire à mettre en place des directivestronstrictes en matière d'IA. 

Le Bureau administratif des tribunaux américains n'a pas publié de directives complètes sur l'utilisation de l'IA, bien que plusieurs tribunaux de circuit étudient apparemment des cadres pour un déploiement limité et supervisé. Des juristes, quant à eux, proposeraient une règle de divulgation qui obligerait les juges à signaler publiquement toute utilisation de l'IA dans leurs avis ou ordonnances, à l'instar des exigences de citation pour les recherches externes.

Cesdentsurviennent alors que les agences fédérales et les organismes professionnels continuent de se débattre avec des questions sur la responsabilité de l’IA.

Soyez visible là où ça compte. Faites de la publicité dans Cryptopolitan Research et touchez les investisseurs et les créateurs de cryptomonnaies les plus avisés.