La Directora de Instagram Advierte Sobre Compartir Contenido Generado por IA

La directora de Instagram, Adam Mosseri, publicó una serie de publicaciones en Threads el pasado domingo advirtiendo a los usuarios acerca de compartir contenido en las redes sociales ya que la IA generativa puede crear imágenes que parecen reales. Mosseri admitió que tienen limitaciones para etiquetar todo el contenido generado por IA.

Mosseri, quien ha estado trabajando para Meta desde 2008, explicó que ahora se pueden crear fácilmente creaciones de IA realistas y que los usuarios deberían considerar la cuenta que proporciona la información y su credibilidad antes de compartirla con otros.

La ejecutiva comparó las masivas producciones cinematográficas como Jurassic Park con las tecnologías actuales y reconoció la calidad y la velocidad de la tecnología avanzada de IA.

“La IA generativa está produciendo claramente contenido que es difícil de diferenciar de las grabaciones de la realidad, y está mejorando rápidamente”, escribió Mosseri en una de las publicaciones.

Mosseri también reconoce que no pueden filtrar y controlar todas las imágenes y el contenido generado por IA que se comparte.

“Nuestro papel como plataformas de internet es etiquetar el contenido generado como IA lo mejor que podamos”, agregó. “Pero inevitablemente, algo de contenido se nos escapará y no todas las tergiversaciones se generarán con IA, por lo que también debemos proporcionar contexto sobre quién está compartiendo para que puedas evaluar por ti misma cuánto quieres confiar en su contenido.”

La jefa de Instagram enfatizó que los usuarios deberían ser más críticos al consumir contenido, cuestionarse si las afirmaciones podrían ser reales o no, y “siempre considerar quién es el que está hablando”.

Muchos usuarios respondieron y se quejaron de que la compañía no asumía más responsabilidad por la situación. “No he visto a ninguna plataforma de meta etiquetar una sola publicación como IA fuera de las etiquetas -voluntarias- en IG por parte del autor de la publicación”, escribió un usuario. “Has tenido años y años para estar por delante de esto… Pero en cambio, metiste la cabeza en la arena e ignoraste a cada uno de tus usuarios que te han estado reportando esto”, escribió otro.

Las usuarias también han informado este año que el sistema de regulación de contenido de Meta no está funcionando correctamente, ya que ha estado bloqueando cuentas por las razones equivocadas.