Los Avatares de IA pueden Propagar Desinformación, Pero También Verdad en Países con Alta Censura como Venezuela

Regresé a mi país natal, Venezuela, el año pasado durante un par de meses después de varios años en el extranjero. Una de las cosas que llamó mi atención durante mi estancia fue este video viral de “presentadores de televisión estadounidenses” explicando la situación económica en el país y cómo había mejorado, en inglés con subtítulos en español. No parecía real, e inmediatamente me puse suspicaz, lamentablemente, no así la gente que vive allí.

“Queríamos averiguar si Venezuela realmente está tan destruida como los medios han afirmado durante años”, dijo Noah, el “periodista” rubio de este desconocido canal de noticias llamado House of Media, en uno de los videos que se volvió viral en las redes sociales, que el gobierno compartió en la televisión local, e incluso fue promovido en línea por Nicolás Maduro, el autócrata de Venezuela.

“Está sucediendo”, pensé después de hablar con algunos venezolanos que creían que los avatares de IA eran periodistas reales, “El régimen de Maduro está utilizando la IA para difundir desinformación y está funcionando”. Aunque no se confirmó que la administración de Maduro lo hubiera orquestado, más tarde se reveló que los videos eran avatares de IA creados por la empresa de IA Synthesia, que recientemente desarrolló avatares capaces de expresar emociones humanas. Según VICE, en ese momento, Synthesia cobraba $30 al mes, y se crearon videos similares para propaganda en África y Asia.

Sin embargo, justo cuando comenzaba a sentir desesperación por el uso de deepfakes para fines maliciosos y desinformación en varios países, un giro interesante volvió a captar mi atención y esperanza: los periodistas venezolanos están utilizando la IA para informar y difundir la verdad.

Avatares de IA: Anonimato como ventaja

Uno de los problemas de los deepfakes es el anonimato. A menos que alguien confiese, como lo hizo aquel mago de Nueva Orleans cuando reveló a los periodistas su papel en las llamadas automatizadas imitando al presidente Joe Biden durante las elecciones primarias, puede ser difícil encontrar a los autores de ciertos contenidos generados por IA, ya que los avatares de IA no proporcionan información sobre la persona real. Pero, ¿y si esto realmente es una solución en ciertos escenarios?

En países como Venezuela, compartir información que va en contra del gobierno es peligroso, incluso si no eres periodista, incluso por solo una publicación en las redes sociales: hay múltiples casos de personas y estudiantes como Villca Fernández que han sido enviados a prisión por un tweet. La gente aún lo hace, pero es muy arriesgado.

Este es el momento en el que los avatares de IA resultan útiles. Según Reuters, Connectas, una organización con sede en Colombia, lanzó un nuevo proyecto llamado “Operación Retweet”, junto con las iniciativas #LaHoraDeVenezuela y Venezuela Vota, después de las elecciones presidenciales del 28 de julio. El objetivo es compartir información real preparada por medios de comunicación independientes utilizando dos personajes de IA, La Chama (la chica) y El Pana (que en jerga venezolana significa “amigo”)

Los videos se comparten en las redes sociales a través de los restantes canales de noticias independientes y otros canales de comunicación como WhatsApp. A diferencia de los avatares de IA de House of Media que vi el año pasado, estos nuevos personajes parecen un poco más artificiales y lo revelan desde el principio. “Antes de comenzar, en caso de que no lo hayas notado, queremos decirte que no somos reales”, dice La Chama en el primer video publicado. “Fuimos generados por Inteligencia Artificial, pero el contenido es real, verificado, de alta calidad y creado por periodistas,” añade El Pana.

Se han compartido múltiples videos en las redes sociales, tanto en inglés como en español, y a través de varios sitios web y otros canales de comunicación. El proyecto ha sido elogiado internacionalmente y admirado como una estrategia para luchar contra la censura.

📢 ¡Tercer episodio de Operación Retuit!#PeriodismoInvaluable

🎥 Este episodio se centra en la reciente aprobación de una ley que regula las ONGs en 🇻🇪. ¿Está el espacio cívico cerrándose definitivamente?🚨

🔗 👉🏽 https://t.co/SkFE5KKQBu

Lee y comparte.📲🔄#VenezuelaVota #LaHoraDeVenezuela pic.twitter.com/HAdlqBXwnh

— CONNECTAS (@ConnectasOrg) 6 de septiembre de 2024

La Tecnología se Convirtió en Clave para Sobrevivir

Las plataformas digitales se han vuelto esenciales para los venezolanos durante años. Recuerdo haber ayudado a mi familia a encontrar la medicina de mi abuela a través de Twitter (ahora X) allá en 2016 y 2017 cuando la escasez de medicamentos alcanzaba el 85% en el país.

Muchos venezolanos se vuelven expertos en tecnología por necesidad y aprovechan al máximo cada plataforma digital. El año pasado me impresionó cómo las empresas y los clientes gestionaron tantas transacciones a través de WhatsApp. Recibí comida a domicilio y reservé mis viajes de transporte a través de esta plataforma, ya que aplicaciones populares como Uber Eats, Uber, Lyft, o métodos tradicionales internacionales de pago en línea no existen. La gente aprende a confiar en desconocidos a través de los chats.

Desde usar VPNs para eludir la censura —similar a lo que ahora hacen los brasileños para acceder a X, que fue recientemente prohibido en el país— hasta la minería de Bitcoin, o recurrir a trabajos ocasionales en línea para llegar a fin de mes, los venezolanos han estado constantemente adaptándose a las nuevas tecnologías como herramientas para navegar las turbulentas crisis políticas, sociales y económicas. “Después de los Estados Unidos, Venezuela alberga el mayor número de trabajadores de datos en el mundo”, afirma un informe compartido por Rest of World a principios de este año.

La inteligencia artificial ha tenido una fuerte presencia en Venezuela durante años. Varias compañías de IA han aprovechado la crisis para contratar mano de obra barata. En 2022, la MIT Technology Review compartió un informe sobre cómo las empresas de etiquetado de datos de IA encontraron oportunidades para explotar a los ciudadanos talentosos: “La crisis de Venezuela ha sido una bendición para estas empresas, que de repente obtuvieron algo de la mano de obra más barata jamás disponible”.

Ahora, los venezolanos están usando su talento y conocimiento en tecnología como una herramienta poderosa no solo para contrarrestar la crisis sino también para desafiar al gobierno. Quizás, y con suerte, los nuevos avatares de IA sean solo el comienzo de una nueva ola de empoderamiento ciudadano.