El Gobierno del Reino Unido Desarrolla una Polémica Herramienta de Inteligencia Artificial para ‘Predecir Asesinatos’

El gobierno del Reino Unido está trabajando en un proyecto controvertido que utiliza la IA para predecir quién podría cometer un asesinato en el futuro.

La existencia del programa salió a la luz a través de solicitudes de libertad de información obtenidas por el grupo de vigilancia Statewatch.

Sus hallazgos sugieren que se está utilizando datos personales sensibles. Esto incluye registros de salud, información sobre salud mental, historial de adicciones y datos sobre personas que no han sido condenadas por ningún delito.

Statewatch informa que el Ministerio de Justicia (MoJ) está liderando este plan, examinando los registros de autoridad existentes de las personas para prevenir la comisión de delitos graves.

Originalmente llamado el “proyecto de predicción de homicidios”, ahora se llama “compartir datos para mejorar la evaluación de riesgos”. El proyecto se encuentra actualmente en una fase de investigación, pero los activistas y defensores de la privacidad han expresado preocupaciones, según lo informado por Statewatch.

Sin embargo, los funcionarios lo niegan. The Guardian informa que un portavoz del Ministerio de Justicia declaró: “Este proyecto se está llevando a cabo solo con fines de investigación. Ha sido diseñado utilizando datos existentes que posee el Servicio de Prisiones y Libertad Condicional de HM y las fuerzas policiales sobre delincuentes condenados para ayudarnos a comprender mejor el riesgo de que las personas en libertad condicional cometan violencia grave. Se publicará un informe a su debido tiempo.”

Según Statewatch, la policía de Greater Manchester compartió datos de hasta medio millón de personas. Esto incluyó a víctimas, sospechosos y personas en situaciones vulnerables.

Sofía Lyall, investigadora en Statewatch, criticó fuertemente el proyecto, diciendo: “El intento del Ministerio de Justicia de construir este sistema de predicción de asesinatos es el último ejemplo escalofriante y distópico de la intención del gobierno de desarrollar los llamados sistemas de ‘predicción’ del delito.”

Advirtió que el sistema profundizaría la discriminación racial y de clase: “Este último modelo, que utiliza datos de nuestra policía y Ministerio del Interior institucionalmente racistas, reforzará y magnificará la discriminación estructural que sustenta el sistema legal penal”.

“El uso de datos tan sensibles sobre salud mental, adicción y discapacidad es altamente intrusivo y alarmante”, añadió.

El gobierno sostiene que herramientas como esta podrían mejorar cómo los servicios de libertad condicional evalúan el riesgo y previenen el crimen violento. Pero los críticos dicen que el sistema podría llevar a que las personas sean injustamente etiquetadas como potenciales asesinas debido a datos defectuosos y sesgados.

El gobierno argumenta que estas herramientas mejorarán la capacidad de los servicios de libertad condicional para evaluar el riesgo y detener los delitos violentos. Sin embargo, los críticos advierten que el sistema corre el riesgo de etiquetar a las personas como posibles asesinos a través de datos malos y sesgados.

Aunque todavía está en desarrollo, Statewatch informa que los documentos mencionan la “operacionalización futura” del sistema, lo que genera preocupaciones de que pronto podría utilizarse en decisiones policiales del mundo real.