El Modelo de IA de Google Bajo Investigación Europea

La Comisión de Protección de Datos (DPC, por sus siglas en inglés) ha anunciado hoy una investigación sobre Google para determinar si la empresa siguió las leyes de protección de datos de la UE mientras desarrollaba su modelo de IA, el Modelo de Lenguaje Pathways 2 (PaLM 2).

PaLM2 es un gran modelo de lenguaje utilizado en varios servicios de IA, incluyendo la resumen de correos electrónicos. Google ha declarado que cooperará con la investigación, según lo señalado por la AP.

La investigación evaluará si Google debería haber realizado una Evaluación de Impacto de Protección de Datos (EIPD) para evaluar los posibles riesgos para los derechos y libertades de los individuos derivados de sus tecnologías de IA.

Esta investigación es parte de los esfuerzos más amplios del DPC para garantizar el cumplimiento de las normas de protección de datos en el sector de la IA en toda Europa. El procesamiento transfronterizo, que implica el manejo de datos a través de varios países de la UE o que afecta a individuos en varias naciones, está bajo un escrutinio particular.

Las herramientas de IA generativa, conocidas por producir información convincente pero falsa y por acceder a datos personales, representan riesgos legales significativos, como señaló TechCrunch. El DPC, responsable de garantizar el cumplimiento de Google con el Reglamento General de Protección de Datos (GDPR).

Para este propósito, el DPC puede imponer multas de hasta el 4% de los ingresos anuales globales de la empresa matriz de Google, Alphabet, por violaciones, según informó TechCrunch.

Google ha desarrollado una serie de herramientas de IA generativas, incluyendo su serie Gemini de modelos de lenguaje de gran tamaño (anteriormente Bard) que se utilizan para diversas aplicaciones, incluyendo la mejora de la búsqueda web a través de chatbots de IA, señala TechCrunch.

Central para estas herramientas es el PaLM2 de Google, un modelo de lenguaje de gran tamaño fundamental lanzado en la conferencia de desarrolladores I/O del año pasado, dijo TechCrunch.

El mes pasado, X de Elon Musk también enfrentó el escrutinio de los reguladores europeos por su uso de los datos de los usuarios para el entrenamiento de IA. La DPC inició una investigación después de recibir quejas de que X estaba alimentando sus tecnología de IA Grok con datos de los usuarios sin obtener el consentimiento adecuado. Aunque X ha accedido a limitar su procesamiento de datos, no ha enfrentado ninguna sanción.

Esta investigación es parte de los esfuerzos más amplios de la DPC para regular el uso de datos personales en el desarrollo de IA en toda la Unión Europea. La reciente adopción por parte de la UE de la Ley de Inteligencia Artificial representa un paso significativo hacia el establecimiento de un marco regulatorio para las tecnologías de IA dentro del bloque.