La IA ayuda al Tribunal Holandés a Redactar Sentencias Penales

El Tribunal de Distrito de Rotterdam realizó recientemente un experimento con ayuda de IA para redactar la motivación de la sentencia de un caso penal.

La IA no estuvo involucrada en el proceso de toma de decisiones, sino que solo se utilizó como una herramienta para ayudar a preparar la sección que explica el razonamiento del tribunal detrás del castigo, como lo explicó el órgano judicial, de Rechtspraak.

El tribunal notificó a todas las partes inmediatamente después del juicio sobre la implementación de la IA en el proceso, al mismo tiempo que emitía una declaración oficial sobre el experimento, tal como explicó el NL Times.

La IA utilizó información general del caso para generar borradores de documentos, pero los jueces junto con el secretario revisaron estos borradores antes de completar la motivación de la sentencia. La IA no participó en la toma de decisiones legales, ni en la evaluación de hechos durante el proceso.

NL Times explica que la herramienta de IA aceleró la velocidad de redacción y mejoró la estructura del texto según los jueces que la utilizaron.

El personal del tribunal que llevó a cabo el juicio expresó resultados favorables, pero mantuvieron sus reservas sobre la implementación de sistemas públicos de IA en procedimientos judiciales, como señaló de Rechtspraak.

Observaron que las herramientas públicas de IA operan con capacidades de entrada restringidas, lo que disminuye su rendimiento. Además, el uso de sistemas de IA públicos para compartir detalles de casos crea un riesgo ético o legal debido a la posible divulgación de información sensible.

Para superar estas preocupaciones, los jueces propusieron implementar un sistema de IA seguro interno que operaría exclusivamente dentro de los procesos judiciales para resolver estos problemas.

El sistema operaría únicamente con información confidencial para que se pudiera ingresar información de casos más detallada y relevante. Un enfoque posible sería establecer una base de datos segura con todos los veredictos penales públicamente disponibles en el sitio web del poder judicial. Esta base de datos podría ayudar a la IA a generar borradores de sentencias más precisos, como señaló de Rechtspraak.

Sin embargo, la implementación de la tecnología de IA dentro de los sistemas judiciales conlleva ciertos riesgos. De hecho, las “alucinaciones” generadas por IA que producen datos incorrectos o fabricados se han convertido en un problema legal en los tribunales de los EE. UU.. En un ejemplo reciente, los abogados de Walmart utilizaron casos falsos generados por IA durante un juicio, lo que llevó a posibles sanciones. Como resultado, la comunidad jurídica continúa expresando dudas crecientes sobre la fiabilidad del sistema de IA.