La Desinformación de IA Podría Conducir a Retiros Masivos de Bancos

Un nuevo estudio británico advierte que la desinformación generada por la inteligencia artificial que circula en las redes sociales está aumentando el riesgo de corridas bancarias, instando a las instituciones financieras a mejorar sus esfuerzos de monitoreo, tal como se informó por primera vez en Reuters.

La investigación, publicada por la organización con sede en el Reino Unido Say No to Disinfo y la firma de comunicaciones Fenimore Harper, destaca cómo la IA hace que la desinformación sea más barata, rápida y efectiva, una amplia gama de actores —incluyendo aquellos impulsados por motivos financieros, ideológicos o políticos— podrían explotar esta vulnerabilidad.

La facilidad de la banca en línea y las transferencias de dinero rápidas incrementan aún más la exposición de los bancos a dichos riesgos.

Para analizar el impacto potencial, los investigadores crearon una campaña de noticias falsas generada por IA dirigida a la estabilidad financiera de los bancos. Se diseñaron titulares falsos para explotar los miedos existentes, utilizando sitios web doppelganger y contenido de redes sociales generado por IA.

Las investigadoras simularon una amplificación a gran escala, generando 1,000 tweets por minuto a un costo mínimo. Una encuesta a 500 clientes del Reino Unido mostró que, después de la exposición a la desinformación, el 33.6% era extremadamente probable y el 27.2% algo probable de mover su dinero, con un 60% inclinado a compartir el contenido.

Basándose en los saldos promedio de las cuentas bancarias del Reino Unido, una única campaña de desinformación podría mover £10 millones, con el costo de trasladar £150 millones tan bajo como $90-$150.

A pesar de la rapidez y facilidad de estos ataques, los investigadores afirman que las instituciones financieras siguen sin estar preparadas. A las entidades bancarias les faltan especialistas en desinformación, monitoreo proactivo y planes de respuesta a crisis. Las medidas de seguridad actuales se centran en las amenazas cibernéticas, mientras que descuidan las operaciones de influencia impulsadas por la IA.

La desinformación potenciada por IA tiene el potencial de desestabilizar el sector financiero al erosionar la confianza y desencadenar retiros a gran escala. Sin medidas proactivas, los investigadores afirman que estas campañas podrían causar un daño económico generalizado.

Reuters señala que las preocupaciones sobre la desinformación impulsada por la IA siguieron al colapso del Silicon Valley Bank en 2023, donde los depositantes retiraron $42 mil millones en un solo día.

Los reguladores, incluyendo el Consejo de Estabilidad Financiera del G20, desde entonces han advertido que la IA generativa podría exacerbar la inestabilidad financiera, advirtiendo en noviembre que “podría permitir a actores malintencionados generar y difundir desinformación que cause crisis agudas”, tales como caídas repentinas y corridas bancarias, según lo informado por Reuters.

Si bien algunos bancos se negaron a comentar a Reuters, UK Finance afirmó que las instituciones financieras están gestionando activamente los riesgos relacionados con la IA.

La publicación del estudio coincide con una Cumbre de IA en Francia, donde los líderes están cambiando el enfoque de los riesgos de la IA hacia la promoción de su adopción.