Litigante Autorepresentado Usa Avatar de IA, Provoca Reacción Adversa en la Sala de Juicios

Un hombre que apareció en una pantalla de video para defender su caso en un tribunal de Nueva York resultó ser un avatar generado por inteligencia artificial en lugar de una persona real.

Como informó inicialmente la AP, Jerome Dewald compareció ante la Primera División Judicial del Tribunal Supremo del Estado de Nueva York para argumentar su conflicto laboral a través de una presentación en video, mientras supuestamente se representaba a sí mismo.

“El apelante ha presentado un video para su argumento”, dijo la jueza Sallie Manzanet-Daniels, según lo informado por AP. “De acuerdo. Veremos ese video ahora”, añadió.

AP informó que en la pantalla apareció una figura juvenil bien vestida que saludó a los jueces diciendo: “Que le plazca a la corte. Vengo aquí hoy humildemente pro se ante un panel de cinco distinguidos jueces”.

Pero la jueza se detuvo rápidamente. “Ok, espera. ¿Es ese el abogado del caso?” preguntó. Dewald admitió: “Yo lo generé. Esa no es una persona real.”

Según la AP, el video se detuvo inmediatamente. “Hubiera sido bueno saber eso cuando presentaste tu solicitud. No me dijiste eso, señor,” dijo Manzanet-Daniels. “No aprecio que me engañen,” añadió.

Dewald se disculpó más tarde, diciendo que no tenía intención de causar daño. Explicó que, dado que no tiene abogado y tiene problemas con la oratoria, utilizó un avatar de IA para presentar su caso de manera más clara. Creó el avatar con una herramienta de una compañía de tecnología de San Francisco, pero no pudo hacer que se pareciera a él a tiempo.

“El tribunal estaba realmente molesto por eso”, dijo Dewald, según informó la AP. “Me dieron una buena reprimenda”, agregó.

La AP señala que Dewald no es el primero en tener problemas con la IA en el tribunal. Por ejemplo, la AP cita el caso de dos abogados que fueron multados en 2023 por usar un chatbot de IA que creaba casos falsos.

La AP señala que incluso abogados de alto perfil, como los de Michael Cohen, enfrentaron problemas similares cuando citaron sin saberlo sentencias creadas por IA.

Además, informes recientes muestran que las alucinaciones de la IA—errores e información inventada creada por modelos generativos de IA—están causando problemas legales en los tribunales de todo Estados Unidos.

El experto en tecnología legal Daniel Shin señaló a AP que, aunque es raro que los abogados utilicen la IA en los tribunales, no es sorprendente que un no abogado como Dewald intentara tal enfoque.

El caso de Dewald aún está bajo revisión por el tribunal.