La IA Podría Prever e Influenciar Decisiones, Vendiendo Tus Intenciones a las Empresas

La IA pronto podría conducir a un mercado donde las empresas compran y venden tus intenciones antes de que incluso tomes una decisión, advierten investigadores de la Universidad de Cambridge.

Esta emergente “Economía de la Intención” permitiría a los asistentes de IA predecir e influir en tus decisiones, desde comprar entradas de cine hasta votar en las elecciones, a menudo antes de que te des cuenta de tus propias preferencias.

Las especialistas en ética de la IA del Centro Leverhulme para el Futuro de la Inteligencia (LCFI) de Cambridge sugieren que el creciente uso de la IA generativa y los chatbots podría allanar el camino para un nuevo tipo de tecnología persuasiva.

Estos agentes de IA, que van desde asistentes chatbot hasta tutores digitales, tendrán acceso a vastas cantidades de datos psicológicos y de comportamiento personal recopilados a través de conversaciones cotidianas, incluyendo diálogos informales.

Estos datos, combinados con algoritmos avanzados, permitirán que la IA anticipe los deseos de los usuarios e influya en sus decisiones a gran escala, argumentan los investigadores.

“Se están gastando enormes recursos para posicionar a los asistentes de IA en cada área de la vida, lo que debería plantear la pregunta de a quién están diseñados para servir estos llamados asistentes”, dijo el Dr. Yaqub Chaudhary, académico visitante en LCFI, según se informó en Eurekalert.

Las herramientas de IA no solo recogerían datos de los hábitos en línea de los usuarios, sino que también interpretarían señales sutiles como la forma en que las personas hablan y las inferencias que se pueden extraer de las interacciones en tiempo real. Según los investigadores, estas herramientas podrían pronto pronosticar e influir en nuestras decisiones, manipulándolas para servir a intereses corporativos, políticos y comerciales.

El Dr. Jonnie Penn, historiador de tecnología en LCFI, explica que la atención ha sido durante mucho tiempo la moneda de internet, con plataformas como Facebook e Instagram obteniendo beneficios del compromiso del usuario. Sin embargo, en la emergente economía de la intención, las motivaciones humanas se convertirán en la nueva moneda.

“A menos que se regule, la economía de la intención tratará tus motivaciones como la nueva moneda. Será una fiebre del oro para aquelos que apuntan, dirigen y venden intenciones humanas.” dijo la Dra. Penn, según se informó en Eurekalert.

Los investigadores advierten que este mercado podría tener graves consecuencias, desde socavar las elecciones libres y justas hasta afectar la integridad de los medios y la competencia en el mercado. Argumentan que, aunque la economía de la intención todavía está en su infancia, ya se pueden ver los primeros signos de su desarrollo.

Por ejemplo, grandes empresas de tecnología como OpenAI, Meta y Apple han comenzado a invertir en sistemas de IA que predicen las intenciones humanas, según Eurekalert. OpenAI, por ejemplo, solicitó datos que expresan la intención humana en varios formatos, mientras que el marco de “App Intents” de Apple para 2024 está diseñado para predecir las acciones futuras de los usuarios.

A pesar de los riesgos, Penn y Chaudhary enfatizan que estos desarrollos no son inherentemente negativos. Sin embargo, insisten en la importancia de la conciencia pública y la regulación para asegurar que la economía de la intención no cruce los límites éticos.

“Deberíamos comenzar a considerar el probable impacto que tal mercado tendría en las aspiraciones humanas, incluyendo elecciones libres y justas, una prensa libre y una competencia de mercado justa, antes de que nos convirtamos en víctimas de sus consecuencias no deseadas”, advirtió Penn, según lo informado por Eurekalert.

En este paisaje digital en rápida evolución, los investigadores instan a la sociedad a examinar cuidadosamente las implicancias de las herramientas de IA que no solo influyen en lo que la gente quiere, sino en lo que “quieren querer”.