La Policía de la Ciudad de Oklahoma Implementa IA para Redactar Informes de Incidentes, Lo que Despierta Preocupaciones por Sesgo

La policía de la ciudad de Oklahoma ahora está utilizando una herramienta de IA para redactar informes de incidentes. La tecnología, desarrollada por Axon, utiliza IA similar a ChatGPT para redactar informes a partir del audio de las cámaras corporales en solo ocho segundos.

Si bien los oficiales elogian la tecnología que ahorra tiempo, los académicos legales y los activistas comunitarios expresan preocupaciones sobre la posible parcialidad y la precisión de los informes generados por la IA.

El software, Draft One, convierte el audio de las cámaras corporales en informes escritos de incidentes, con el objetivo de mejorar la eficiencia en la redacción de informes.

La Associated Press informa que el sargento Matt Gilmore de la ciudad de Oklahoma, quien lo probó, dijo que el informe escrito por la IA era “mejor” que cualquier cosa que él podría haber escrito por sí mismo, era 100% preciso, e incluso incluía detalles que él no recordaba.

Axon creó el producto. El fundador y CEO de la compañía, Rick Smith, le dijo a la AP que Draft One tuvo la “reacción más positiva” de cualquier producto que la compañía ha introducido.

“Sin embargo, existen preocupaciones”, señaló Smith. Explicó que los fiscales de distrito quieren asegurarse de que los oficiales de policía, no solo un chatbot de IA, sean responsables de redactar sus informes, ya que pueden necesitar testificar en la corte sobre sus observaciones.

The Independent informa que el activista comunitario de la ciudad de Oklahoma, Aurelius Francisco, ha expresado una profunda preocupación por el uso de la tecnología de inteligencia artificial en los informes policiales, particularmente debido a posibles sesgos raciales.

Incidentes pasados, como la errónea detención de Robert Williams debido al uso defectuoso de la tecnología de reconocimiento facial, ejemplifican los peligros de una dependencia excesiva de la inteligencia artificial en las investigaciones policiales, especialmente en lo que respecta a sesgos raciales e inexactitudes.

“Dado todas las sensibilidades en torno a la policía, en torno a la raza y otras identidades de las personas involucradas, esa es un área donde creo que vamos a tener que hacer un trabajo real antes de introducirla”, Smith le dijo a AP.

Hay un consenso en que, aunque la IA puede ayudar en la redacción de informes, la responsabilidad y la rendición de cuentas finales deben permanecer con los oficiales humanos, especialmente cuando se trata de delitos graves que pueden requerir un testimonio en corte.