La UNECE emite una Declaración sobre Productos Integrados con IA

La Comisión Económica para Europa de las Naciones Unidas (UNECE) anunció hoy una declaración que aborda los desafíos regulatorios planteados por la IA y las tecnologías digitales integradas en productos y servicios cotidianos. Esta iniciativa tiene como objetivo mejorar la coherencia regulatoria global en medio de las complejidades de las tecnologías emergentes.

Basándose en los Arreglos Regulatorios Comunes Generales (CRA, por sus siglas en inglés), la declaración fomenta la cooperación regulatoria voluntaria entre los gobiernos, a la vez que protege el comercio mundial y el progreso tecnológico.

La declaración resalta la prevalencia de productos que utilizan IA incorporada y tecnologías digitales, pero señala la ausencia de definiciones y regulaciones consistentes.

Aunque la CRA indica que no incluye vehículos autónomos o armas, su orientación sigue siendo pertinente para estos sectores.

La declaración enfatiza la importancia de gestionar los riesgos asociados con los productos que incorporan IA incorporada u otras tecnologías digitales. Según la declaración, eliminar completamente todos los riesgos es irrealista; en cambio, las regulaciones deberían tener como objetivo gestionar los riesgos dentro de límites aceptables.

Los productos de alto riesgo, particularmente aquellos que afectan la salud, la seguridad o la privacidad, requerirán una supervisión rigurosa. Los productos de riesgo medio, que pueden plantear preocupaciones de seguridad para el usuario pero no involucran datos personales, necesitarán un seguimiento moderado. En contraste, los productos de bajo riesgo que no utilizan datos personales o influyen directamente en los usuarios requerirán una supervisión mínima.

Para los sistemas de IA de alto riesgo, la declaración aboga por la inclusión de la toma de decisiones humanas siempre que sea factible. Por ejemplo, los dispositivos médicos que utilizan IA para diagnósticos deben involucrar una revisión humana para mitigar los riesgos para los pacientes, mientras que las maquinarias industriales impulsadas por IA deberían permitir la supervisión humana en los lugares de trabajo.

Reconociendo la naturaleza impredecible de las tecnologías de IA, la declaración enfatiza la necesidad de pruebas rigurosas a la vez que reconoce la persistencia de riesgos desconocidos. Se alienta a los reguladores y distribuidores a divulgar estos riesgos residuales y asegurarse de que permanezcan manejables.

Para prevenir daños, los sistemas de IA integrados deben abordar los sesgos en la toma de decisiones, reflejando tanto los sesgos humanos como los de las máquinas.

La declaración también indica que estos sistemas deben respetar la autonomía humana, el bienestar mental y los valores sociales, incluyendo los derechos de los niños, y funcionar eficazmente en las economías en desarrollo sin crear barreras comerciales.

Las características de seguridad son cruciales para la tecnología de IA para prevenir su mal uso. Las evaluaciones de conformidad regulatoria son vitales para los productos de IA, donde los elementos de bajo riesgo pueden requerir solo una autodeclaración del proveedor, mientras que los productos de alto riesgo deben someterse a evaluaciones de terceros para verificar el cumplimiento de las normas internacionales.

Además, la declaración sostiene que la vigilancia del mercado debe evolucionar para mantenerse al ritmo de la naturaleza dinámica de la IA. Las comprobaciones de cumplimiento continuo son necesarias, especialmente cuando los productos reciben actualizaciones.

Las auditorías independientes deberían confirmar que los productos mantienen los estándares iniciales y son seguros para su uso. Los productos no conformes, especialmente aquellos que representan riesgos significativos, deben ser retirados, emitiéndose alertas internacionales para problemas serios.