Los Legisladores de California Modifican el Nuevo Proyecto de Ley de IA, se Espera el Veredicto para Fin de Agosto

El Comité de Asignaciones de la Asamblea Estatal de California aceptó enmiendas a la nueva ley S.B. 1047 este jueves, y podría potencialmente convertirse en ley a finales de mes.

La “Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera” requiere que las empresas que trabajan con productos y servicios de IA en California realicen pruebas de seguridad antes de lanzar las tecnologías. Su objetivo es prevenir las principales consecuencias de la IA y garantizar la seguridad.

Según The New York Times, si se aprueba, el fiscal general de California podría demandar a las empresas si estas tecnologías causan daño, como bajas humanas o daños masivos a la propiedad, incluyendo a gigantes locales como Google, OpenAI y Meta.

El Senador Scott Wiener redactó el proyecto de ley en febrero y desde entonces ha pasado por múltiples enmiendas, especialmente después de las crecientes preocupaciones y solicitudes de varias empresas de tecnología que se oponen a él. Esta sería una de las etapas finales del proceso para aprobarlo.

Según TechCrunch, las modificaciones más recientes han sido sugeridas por la empresa de IA Anthropic.

“Aceptamos una serie de enmiendas muy razonables propuestas, y creo que hemos abordado las preocupaciones principales expresadas por Anthropic y muchos otros en la industria”, dijo el Senador Wiener a TechCrunch. “Estas enmiendas se suman a los cambios significativos que hice previamente al SB 1047 para adaptarme a las necesidades únicas de la comunidad de código abierto, que es una importante fuente de innovación.”

Uno de los cambios significativos es que el proyecto de ley no sancionará a las empresas por no aplicar buenas prácticas de seguridad antes de que ocurra cualquier consecuencia mayor, solo después, tal como recomendó Anthropic.

Un portavoz de Google le dijo a The New York Times que su preocupación “aún persiste”. Anthropic dijo que revisará cuidadosamente las actualizaciones y Meta y OpenAI, incluso después de su reciente informe sobre la seguridad de GPT4-o que se alinea con los requisitos del proyecto de ley, se negaron a comentar sobre los nuevos cambios.

La mayoría de las empresas de IA están preocupadas de que este proyecto de ley desanime el desarrollo de la tecnología o haga que las empresas trasladen sus sedes a otros estados. Si es aprobado por el voto final de la Legislatura de mayoría demócrata, luego por el Senado de California y, finalmente, por el Gobernador, podría convertirse en la primera ley de seguridad de IA en los Estados Unidos.