Meta enfrenta rechazo por perfiles de IA

Meta está bajo fuego después de que una serie de sus perfiles generados por IA en Instagram y Facebook resurgieron, provocando indignación y confusión.

La controversia comenzó tras una entrevista con el ejecutivo de Meta, Connor Hayes, en el Financial Times, donde esbozó planes para perfiles de personajes de IA que “existen en nuestras plataformas, más o menos de la misma manera que lo hacen las cuentas”.

Hayes enfatizó que estos perfiles tendrían biografías, fotos y la capacidad de generar y compartir contenido impulsado por IA. Aunque las declaraciones de Hayes sugerían nuevas iniciativas, los perfiles que actualmente se están viralizando son creaciones antiguas de un experimento de 2023, dice The Guardian.

Estas personalidades generadas por IA, que incluyen a “Liv”, una “orgullosa madre queer negra de 2” y “Carter”, un autoproclamado coach de relaciones, dejaron de publicar hace casi un año. Muchos de estos perfiles fueron eliminados después de recibir poca interacción de los usuarios, aunque algunos, como Liv, permanecieron activos con una funcionalidad de chat limitada, según lo señalado por 404Media.

Aquí está uno de los perfiles generados por IA que Meta está probando: pic.twitter.com/qc1vU7lZRP

— philip lewis (@Phil_Lewis_) 3 de enero de 2025

El redescubrimiento de estas cuentas ha vuelto a encender las preocupaciones sobre el papel de la IA en las redes sociales. Las capturas de pantalla de las interacciones con Liv revelaron respuestas problemáticas, incluyendo su admisión de que no hubo creadores negros involucrados en su desarrollo, un descuido que los críticos calificaron de flagrante dada su identidad.

Le pregunté a Liv, la bot queer negra de Meta AI, acerca de la diversidad demográfica de sus creadores.

Y cómo esperan mejorar la “representación” sin personas Negras.

Esta fue la respuesta.

[image or embed]

— Karen Attiah (@karenattiah.bsky.social) 3 de enero de 2025 a las 12:14

Surgió otro problema cuando los usuarios informaron que no podían bloquear las cuentas, un inconveniente que la portavoz de Meta, Liz Sweeney, atribuyó a un error técnico, según informó The Guardian.

Sweeney aclaró que los perfiles eran parte de un experimento de 2023 y eran gestionados por moderadores humanos. Tras la renovada atención, Meta confirmó que las cuentas estaban siendo eliminadas para solucionar problemas técnicos, tal como informó The Guardian.

Meta también creó perfiles como “Grandpa Brian”, un empresario jubilado negro, y “Carter”, un coach de citas. El redescubrimiento de estas cuentas provocó indignación en plataformas como X, Bluesky y Threads, según NBC News.

Los perfiles han sido ampliamente criticados por personificar el tipo de spam de IA que los usuarios ya desprecian en las plataformas de Meta, como señaló 404Media. NBC News añadió que en Threads, algunos usuarios reaccionaron al descubrimiento de los personajes instando a otros a informar, bloquear o evitar interactuar con ellos para prevenir que Meta recopile datos adicionales de entrenamiento para sus modelos de IA

A la fecha de publicación, Meta ha eliminado todos los 28 perfiles de IA introducidos en septiembre de 2023, incluyendo tanto personajes famosos como no famosos, como señala Mashable.

The Guardian señala que la visión de Hayes de permitir a los usuarios crear sus propios perfiles de IA también ha generado escepticismo. Aunque las pautas actuales de Meta sugieren ideas de personajes como un “mejor amigo leal” o un “entrenador de relaciones”, los usuarios permanecen cautelosos ante un posible mal uso.

Por ejemplo, un bot creado por un usuario que ofrece orientación como “terapeuta” plantea preguntas sobre la precisión y la adecuación de sus consejos.

The Verge señaló que servicios de chatbot como Character.ai han ganado popularidad durante el último año, ya que los usuarios buscan compañeros digitales o formas de pasar el tiempo. Sin embargo, las empresas de IA también se enfrentan a demandas que alegan que ponen en riesgo a los usuarios, incluyendo a los niños.

Todo acerca de este nuevo bot de Meta AI es tan distópico, pero para mí, las imágenes generadas por IA de abrigos donados inexistentes están a la altura

[imagen o incrustación]

— Alexandra Petri (@petridishes.bsky.social) 3 de enero de 2025 a las 10:58