La influencia de las grandes tecnológicas en los estándares de IA de la UE genera preocupaciones

Las grandes empresas de tecnología tienen un considerable influencia sobre el desarrollo de los estándares de la IA en la UE, según un informe del grupo de campaña Observatorio Corporativo de Europa (CEO).

El informe expresa preocupaciones sobre la inclusividad y la equidad del proceso de establecimiento de estándares, que respalda la recién aprobada Ley de Inteligencia Artificial de la UE.

La Ley de la IA, que se convirtió en ley en agosto de 2024, adopta un enfoque basado en el riesgo, categorizando los sistemas de IA según los niveles de riesgo. Mientras que los sistemas de alto riesgo, como los utilizados en la atención sanitaria y las aplicaciones judiciales, enfrentan requisitos más estrictos, las directrices específicas aún no están definidas, como señaló el CEO.

Más de la mitad (55%) de los 143 miembros del Comité Técnico Conjunto sobre IA (JTC21), establecido por los organismos de normalización europeos CEN y CENELEC, representan intereses corporativos o de consultoría.

El informe critica a la mayoría de las organizaciones que establecen normas, como CEN y CENELEC, por ser privadas y carecer de responsabilidad democrática. Estos organismos a menudo cobran tarifas altas y operan con una transparencia limitada, dificultando la participación de la sociedad civil.

Mientras tanto, la sociedad civil enfrenta barreras logísticas y financieras para participar. Solo 23 representantes (16%) en la muestra del Observatorio Corporativo de Europa eran de la academia, y solo 13 (9%) representaban a la sociedad civil.

Mientras que las organizaciones del Anexo III de la UE abogan por los intereses de la sociedad, carecen de derechos de voto y recursos en comparación con los participantes corporativos. Oracle, una importante corporación tecnológica, ha alabado públicamente su participación en la estandarización de la IA, afirmando que sus esfuerzos aseguran estándares “éticos, confiables y accesibles”, tal como informó el CEO.

Sin embargo, el informe argumenta que corporaciones como Oracle, que tiene vínculos con sistemas de vigilancia globales, priorizan regulaciones ligeras que se alinean con sus intereses en lugar de abordar los derechos fundamentales. La participación similar de empresas como Microsoft, Amazon y Google genera temores de debilitamiento de las salvaguardas dentro de la Ley de la IA.

Bram Vranken, investigador de CEO, expresó preocupación acerca de esta delegación de la formulación de políticas públicas.

“La decisión de la Comisión Europea de delegar la formulación de políticas públicas sobre IA a un organismo privado es profundamente problemática. Por primera vez, se está utilizando la definición de estándares para implementar requisitos relacionados con los derechos fundamentales, la equidad, la fiabilidad y el sesgo”, dijo, según informó Euro News.

CEN y CENELEC no revelaron los participantes en su desarrollo de estándares de IA. Las solicitudes del CEO para obtener listas de participantes del comité JTC21 fueron recibidas con silencio, y su Código de Conducta impone secreto sobre las identidades y afiliaciones de los participantes.

El CEO describió estas reglas como excesivamente restrictivas, evitando una discusión abierta sobre la membresía del comité.

En respuesta al informe, la Comisión Europea declaró que las normas armonizadas serán sometidas a evaluación para asegurar que se alinean con los objetivos de la Ley de IA. Los Estados Miembros y el Parlamento Europeo también conservan el derecho de impugnar estas normas, según informó Euro News.

En conclusión, los legisladores han delegado la tarea de operacionalizar estas normas a organizaciones privadas. Los grupos de la sociedad civil y los expertos independientes, a menudo con fondos insuficientes y superados en número, luchan por contrarrestar el dominio corporativo.

Este desequilibrio corre el riesgo de socavar las protecciones contra la discriminación, las violaciones de la privacidad y otros derechos fundamentales, dejando la gobernanza de la IA en Europa en gran medida moldeada por los intereses de la industria.