Jueces federales de EE.UU. revelan uso de IA en órdenes judiciales plagadas de errores - ¿La justicia automatizada llega demasiado pronto?
La inteligencia artificial invade los tribunales federales - y los resultados son desastrosos.
El experimento judicial que salió mal
Tres jueces federales admiten lo impensable: utilizaron herramientas de IA para redactar órdenes judiciales que luego resultaron estar repletas de errores factuales y jurídicos. La revelación sacude los cimientos del sistema judicial estadounidense mientras la tecnología prometía eficiencia pero entregó embrollos.
Cuando los algoritmos sustituyen a la sabiduría judicial
Los documentos, destinados a resolver disputas complejas, contenían citas legales inventadas y fundamentos jurídicos completamente falsos. Los jueces involucrados reconocen el fiasco pero defienden el experimento como 'necesario para modernizar el sistema'. Los abogados afectados preparan apelaciones basadas en estos errores computarizados.
Más rápido no significa mejor
La promesa de ahorrar tiempo y recursos se convirtió en pesadilla administrativa. Mientras tanto, en Wall Street siguen apostando millones en startups legtech que prometen revolucionar la profesión jurídica - porque claro, ¿qué podría salir mal cuando combinamos IA con el sistema que determina la libertad de las personas?
La justicia humana aún no encuentra sustituto digital. Los algoritmos pueden optimizar carteras de inversión, pero aparentemente todavía no pueden reemplazar siglos de jurisprudencia y criterio judicial.
Los errores del personal exponen los límites de la IA en los tribunales
En su carta , el juez Neals del Distrito de Nueva Jersey declaró que un borrador de fallo en una demanda de valores se había publicado "por error —error humano"— después de que un becario de la facultad de derecho utilizara ChatGPT de OpenAI para una investigación sin autorización ni divulgación. La decisión se retiró de inmediato al descubrirse el error.
Para evitar que esto vuelva a suceder, Neals dijo que su cámara había creado desde entonces una política de IA escrita y mejorado su proceso de revisión.
El juez Wingate, que presta servicios en el Distrito Sur de Mississippi, dijo que un asistente legal utilizó la herramienta de inteligencia artificial Perplexity "como un asistente de redacción fundamental para sintetizar la información disponible públicamente en el expediente".
Ese borrador de orden, emitido en un caso de derechos civiles, fue posteriormente reemplazado trasdenterrores. Wingate declaró que el incidente "fue una falla en la supervisión humana", y añadió que desde entonces ha endurecido los procedimientos de revisión en su despacho.
Críticas al uso de la IA en el ámbito jurídico
El episodio se suma a una creciente lista de controversias relacionadas con material legal generado por IA. Abogados de varias jurisdicciones estadounidenses se han enfrentado a sanciones en los últimos años por presentar documentos redactados por chatbots que incluían citas falsas de casos ydentmal aplicados.
A principios de este mes, el sistema judicial del estado de Nueva York publicó una nueva política que restringe a los jueces y al personal ingresar información confidencial dent privilegiada o no pública de casos en herramientas públicas de inteligencia artificial generativa.
Si bien la profesión jurídica ha explorado rápidamente el potencial de la IA para mejorar la eficiencia, los incidentes dent puesto de manifiesto las limitaciones de la tecnología, en particular su tendencia a generar alucinaciones o información plausible pero falsa . Para los tribunales, donde la integridad, la precisión de las sentencias y la carga de la prueba son primordiales, estas fallas corren el riesgo de socavar la confianza pública en el sistema judicial.
Grassley, quien elogió a Wingate y Neals por reconocer los errores, también instó al poder judicial a implementar directrices de IAtronestrictas.
La Oficina Administrativa de los Tribunales de EE. UU. no ha publicado una guía exhaustiva sobre el uso de la IA, aunque varios tribunales de circuito, según se informa, están explorando marcos para un despliegue limitado y supervisado. Por otro lado, los juristas proponen una norma de divulgación que obligará a los jueces a hacer público cualquier uso de la IA en sus dictámenes u órdenes, de forma similar a los requisitos de citación para la investigación externa.
Eldentocurre mientras las agencias federales y los organismos profesionales continúan lidiando con preguntas sobre la responsabilidad de la IA.
Hazte notar donde importa. Publicita en Cryptopolitan Research y llega a los inversores y creadores de criptomonedas más inteligentes.
