La Ley de California Impone Nuevas Reglas Sobre la IA

La Asamblea del Estado de California ha aprobado la Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera (SB 1047) después de que se realizaran muchas enmiendas a principios de este mes.

Presentada por el senador estatal Scott Wiener, la SB 1047 tiene como objetivo mitigar los riesgos asociados con la IA avanzada, como las armas autónomas o los ciberataques a gran escala. Además, según lo informado por Business Insider (BI), la ley requiere que las empresas que desarrollan modelos de IA implementen medidas de seguridad, incluyendo interruptores de emergencia y pruebas de terceros.

Las disposiciones clave de la SB 1047 incluyen estrictos protocolos de seguridad para los desarrolladores de “modelos cubiertos”, que son modelos de IA a gran escala que requieren una considerable potencia de cálculo para entrenarse, y tienen el potencial de causar un daño significativo.

Estos protocolos exigen a los desarrolladores implementar medidas de seguridad integrales para abordar riesgos como las consecuencias no deseadas o el uso malintencionado. Además, los desarrolladores deben someterse a auditorías independientes anuales para garantizar el cumplimiento e informar cualquier incidente de seguridad de IA al Fiscal General dentro de las 72 horas.

El proyecto de ley también impone responsabilidades a los operadores de clusters de computación, exigiéndoles identificar a los clientes que entrenan estos modelos de alto riesgo y tomar medidas para mitigar los posibles peligros.

El SB 1047 ha generado un debate significativo dentro de la industria tecnológica. Mientras que los defensores argumentan que es esencial proteger al público de los posibles peligros de la IA avanzada, los opositores expresan preocupaciones acerca de su posible impacto en la innovación.

Los críticos también argumentan que las regulaciones podrían ser una carga para las empresas, limitando su capacidad para competir con los gigantes tecnológicos más grandes. Sin embargo, el Senador Wiener defendió la legislación, enfatizando que se dirige a las empresas que gastan más de $100 millones en el desarrollo de IA, eximiendo a las startups más pequeñas, según informó Fortune.

Elon Musk, CEO y fundador de xAI, expresó su apoyo al proyecto de ley. Reconoció su potencial para molestar a algunos, pero enfatizó la necesidad de regulación para prevenir riesgos públicos.

Sin embargo, otras grandes empresas de IA y expertos han expresado su oposición. Por ejemplo, el LA Times informa que Jason Kwon, el Jefe de Estrategia de OpenAI, escribió en una carta a Wiener, “Un conjunto de políticas de IA impulsadas a nivel federal, en lugar de un mosaico de leyes estatales, fomentará la innovación y colocará a los EE. UU. en una posición de liderazgo en el desarrollo de estándares globales.”

Además, la profesora de Stanford Fei-Fei Li, experta en IA, argumentó que aunque la legislación está bien intencionada, podría tener consecuencias imprevistas significativas, incluyendo el daño a la comunidad de código abierto y la limitación del acceso académico a modelos esenciales de IA.

A pesar de la controversia, SB 1047 también propone la creación de CalCompute, un clúster de computación en la nube pública, para apoyar el desarrollo responsable de la IA y proporcionar a los investigadores y desarrolladores el acceso a los recursos necesarios.

Mientras que el proyecto de ley representa un paso significativo hacia la regulación de la IA en California, tanto críticos como partidarios reconocen que el panorama de la IA, que evoluciona rápidamente, puede requerir revisiones adicionales de la ley para abordar los desafíos y oportunidades emergentes.