El Gobierno del Reino Unido no revela el uso de la IA, incumpliendo el Mandato de Transparencia

El gobierno del Reino Unido enfrenta críticas por no documentar el uso de la IA en un registro obligatorio, lo que genera preocupaciones de transparencia y responsabilidad en medio de la creciente adopción.

El gobierno del Reino Unido está siendo criticado por no registrar su uso de los sistemas de IA en un registro público obligatorio, lo que genera preocupaciones sobre la transparencia y supervisión de las tecnologías que potencialmente podrían afectar la vida de millones de personas, según se informó el jueves por The Guardian.

A pesar de anunciar en febrero de 2024 que todos los departamentos de Whitehall deben documentar su uso de la IA, ninguno ha cumplido, dejando al sector público “volando a ciegas” en su adopción de tecnología algorítmica, como señaló The Guardian.

La IA ya está profundamente integrada en la toma de decisiones del gobierno, influyendo en áreas como los pagos de bienestar, la aplicación de la inmigración y la policía.

Sin embargo, The Guardian señala que sólo se han registrado nueve sistemas algorítmicos, excluyendo los principales programas utilizados por el Ministerio del Interior, el Departamento de Trabajo y Pensiones (DWP) y las fuerzas policiales.

Esta falta de transparencia persiste incluso cuando los contratos para servicios de IA y algorítmicos aumentan. Por ejemplo, The Guardian señala que un organismo de compras de la policía recientemente publicitó un contrato de £20 millones para tecnología de reconocimiento facial, causando temores sobre la vigilancia biométrica no regulada.

La Secretaria de Ciencia y Tecnología, Peter Kyle, reconoció el problema, declarando que los departamentos gubernamentales no han tomado la transparencia “lo suficientemente en serio”, según informó The Guardian.

Subrayó el derecho del público a entender cómo se implementan los algoritmos, agregando que la confianza solo se puede construir a través de la apertura.

The Guardian señala que los críticos argumentan que el secretismo supone riesgos significativos. Madeleine Stone, directora de defensa en el grupo de privacidad Big Brother Watch, advirtió,

“El uso secreto de la IA y los algoritmos para impactar en la vida de las personas pone en riesgo los derechos de todos sobre sus datos. Los departamentos gubernamentales deben ser abiertos y honestos sobre cómo utilizan esta tecnología”, según informó The Guardian.

El Instituto Ada Lovelace se hizo eco de estas preocupaciones, destacando que los sistemas de IA no divulgados pueden socavar la confianza pública y conducir a resultados discriminatorios o ineficaces, según informó The Guardian.

Desde la introducción del registro de IA, solo se han listado tres sistemas, incluyendo una herramienta de monitoreo de peatones en Cambridge y un sistema de análisis de revisiones del NHS. Mientras tanto, los organismos públicos han firmado 164 contratos relacionados con la IA solo en 2024, según la empresa de datos Tussell, como informó The Guardian.

Los contratos de alto perfil incluyen la asociación de £330 millones del NHS con Palantir para una plataforma de datos y la iniciativa de transformación de AI de £7 millones del Ayuntamiento de la Ciudad de Derby, según The Guardian.

El Ministerio del Interior, que emplea IA en la aplicación de la inmigración, y otros departamentos se negaron a comentar sobre su ausencia en el registro. Sin embargo, el Departamento de Ciencia y Tecnología afirma que más registros están “a punto de ser publicados próximamente”, informó The Guardian.

La situación ha reavivado los debates sobre el papel de la IA en la gobernanza, con defensores instando a la transparencia para mitigar daños y garantizar la responsabilidad pública en una era de tecnología en rápido avance.