Reino Unido Impulsa la Seguridad de la IA, Firma Alianza con Singapur para Expandir el Mercado de IA de Confianza

El gobierno del Reino Unido anunció ayer nuevas medidas para apoyar el uso seguro y responsable de la IA, con el objetivo de desbloquear £6.5 mil millones en crecimiento económico para 2035. Se espera que el sector de garantía de IA del Reino Unido, que se centra en asegurar que los sistemas de IA sean justos, transparentes y seguros, se expanda seis veces en la próxima década.

Este crecimiento se ve como esencial para la estrategia más amplia del gobierno de incorporar la IA en los servicios públicos y aumentar la productividad económica, mientras se mantiene la confianza pública en estas tecnologías.

Peter Kyle, Secretario de Estado para Ciencia, Innovación y Tecnología, enfatizó que la confianza pública es esencial para aprovechar al máximo el potencial de la IA para mejorar los servicios y la productividad. Señaló que estos pasos tienen como objetivo posicionar al Reino Unido como líder en seguridad de IA.

Para ayudar a esta expansión, el Departamento de Ciencia, Innovación y Tecnología (DSIT) y el Instituto de Seguridad de IA del Reino Unido han introducido una nueva plataforma de garantía de IA, diseñada para ayudar a las empresas británicas a gestionar los riesgos asociados con el uso de la IA.

La plataforma centralizará recursos para evaluar el sesgo de los datos, realizar evaluaciones de impacto y monitorear el rendimiento de la IA. Las pequeñas y medianas empresas (PYMES) también tendrán acceso a una herramienta de autoevaluación para implementar prácticas de IA responsables dentro de sus organizaciones.

El Reino Unido también está fortaleciendo sus esfuerzos internacionales en seguridad de IA firmando una asociación con Singapur.

El Memorando de Cooperación, firmado por el Secretario Kyle y la Ministra de Desarrollo Digital de Singapur, Josephine Teo, tiene como objetivo promover la investigación conjunta y establecer normas comunes para la seguridad de la IA.

Este acuerdo se basa en las discusiones que tuvieron lugar en la Cumbre de Seguridad de la IA del año pasado y se alinea con los objetivos de la Red Internacional de Institutos de Seguridad de la IA (AISI, por sus siglas en inglés), una iniciativa global para coordinar los esfuerzos de seguridad de la IA.

Josephine Teo enfatizó que ambos países están comprometidos a avanzar en la IA para el beneficio público, garantizando al mismo tiempo que se mantenga segura.

“La firma de este Memorándum de Cooperación con un socio importante, el Reino Unido, se basa en las áreas existentes de interés común y las extiende a nuevas oportunidades en la IA,” dijo Teo.

Hyoun Park, CEO de Amalgam Insights, una empresa especializada en decisiones financieramente responsables de TI, señala que, aunque se promociona como una herramienta para construir confianza en la IA, el principal objetivo de la plataforma es proporcionar a las empresas un marco alineado con el gobierno para evaluar la IA, según informa CIO.

Park expresó preocupaciones acerca de las capacidades actuales de la plataforma. “La plataforma todavía es bastante rudimentaria, con planes para un kit de herramientas esencial que aún no se ha desarrollado completamente”, dijo, según lo informado por CIO.

“Esta evaluación se basa en respuestas humanas en lugar de una integración directa con la propia IA, y la escala utilizada por la herramienta de evaluación es vaga, ofreciendo solo opciones binarias sí/no o respuestas que son difíciles de cuantificar”, agregó.

Park también señaló que las evaluaciones de sesgos podrían ser especialmente desafiantes. “Cada IA tiene un sesgo, y la idea de que el sesgo puede ser eliminado es tanto un mito como potencialmente peligroso”, comentó a CIO.

Para las empresas más pequeñas, los nuevos requisitos de cumplimiento como las evaluaciones de riesgo y las auditorías de datos pueden suponer cargas adicionales, posiblemente extendiendo los recursos limitados, dice CIO.