Un Estudio Revela que el 84% de los Líderes en Tecnología de la Información Confían en los Agentes de Inteligencia Artificial Tanto como en los Humanos

SnapLogic ha presentado un nuevo informe, “Agentes de IA: La Frontera Final de la Empresa”, que examina cómo los líderes de IT se están preparando para la adopción de agentes de IA.

Basado en las respuestas de más de 1,000 tomadores de decisiones de TI en los Estados Unidos, Reino Unido, Alemania y Australia, el informe destaca cómo las empresas están adoptando agentes de IA para optimizar operaciones y mejorar la productividad.

Los agentes de IA, que operan de manera autónoma y realizan tareas complejas, se están convirtiendo en una parte integral de los flujos de trabajo empresariales. Este informe sigue la introducción de Operator por parte de OpenAI, un agente de IA para tareas autónomas, y el lanzamiento gratuito de Gemini Code Assist de Google para desarrolladores.

“La tecnología GenAI continúa evolucionando rápidamente. La capacidad de permitir la creación de agentes de IA capaces de operar de manera autónoma, razonar y realizar acciones específicas para completar un objetivo es un hito crítico en la capacidad de GenAI para brindar un valor comercial significativo”, señala el informe.

De acuerdo con los hallazgos, los líderes de TI confían cada vez más en los agentes de IA para manejar tareas esenciales de negocio. Un significativo 84% de los encuestados confían en los agentes de IA al menos tanto como en los humanos, con un 40% expresando mayor confianza en los agentes de IA que en los trabajadores humanos.

Esta creciente confianza está impulsada por el potencial de la IA para mejorar la eficiencia, ya que los equipos de TI actualmente pasan un promedio de 16 horas por semana gestionando tecnologías de IA. Los encuestados anticipan que los agentes de IA ayudarán a recuperar 19 horas semanales, liberando tiempo valioso para un trabajo más estratégico.

El CEO de Klarna, Sebastian Siemiatkowski, quien ha sido muy abierto sobre el impacto transformador de la IA en los negocios, especialmente en la automatización de tareas tradicionalmente manejadas por humanos, refleja esta tendencia. El uso de IA por parte de Klarna ha ahorrado $10 millones anualmente, con IA reemplazando a 700 agentes de servicio al cliente y realizando tareas más rápido que los humanos.

Además, una encuesta reciente reveló que más de la mitad de los líderes empresariales del Reino Unido planean invertir en IA en lugar de contratar nuevo personal, impulsados por el aumento de los costos laborales y las reformas laborales.

El entusiasmo por la adopción de agentes de IA es evidente, con un 79% de líderes de IT priorizando su implementación en el próximo año. Además, el 92% cree que estos sistemas proporcionarán resultados empresariales significativos en los próximos 12 a 18 meses.

La inversión en IA también se está acelerando, ya que casi el 80% de las organizaciones planean asignar más de $1 millón a los agentes de IA en el próximo año. A pesar del alto interés, siguen existiendo barreras. Las preocupaciones sobre la seguridad de los datos, la tecnología obsoleta y los desafíos de integración persisten, con un 60% citando los riesgos de privacidad como un obstáculo importante.

En efecto, el NIST explica cómo los agentes de IA son vulnerables a ataques de secuestro, donde instrucciones maliciosas insertadas en los datos provocan que los agentes realicen tareas perjudiciales. Este riesgo surge de la falta de separación entre las instrucciones internas de confianza y los datos externos.

Las principales amenazas de ciberseguridad incluyen la ejecución remota de código, la exfiltración de bases de datos y el phishing automatizado. Estos ataques explotan la dependencia de los agentes de IA en los datos externos, lo que potencialmente puede conducir a acciones no autorizadas como ejecutar scripts dañinos, robar datos de usuarios o propagar malware.

Además, el informe cita que el escepticismo de los empleados y los miedos a las alucinaciones de la IA contribuyen a la vacilación en su adopción. Sin embargo, a medida que los agentes de IA continúan evolucionando, las organizaciones están ansiosas por aprovechar sus capacidades para impulsar la transformación en diversas industrias.

Mientras tanto, la Universidad de Cambridge advirtió recientemente de un futuro potencialmente distópico donde los asistentes de IA podrían predecir y vender las intenciones de los usuarios en tiempo real. Esta “Economía de la Intención”, impulsada por la IA, podría utilizar datos psicológicos íntimos para influir en las decisiones a gran escala, incluyendo acciones tan personales como votar o las elecciones de compra.

Las investigadoras sostienen que esta tecnología podría manipular el comportamiento humano en beneficio comercial, político o corporativo, lo cual plantea serias preocupaciones sobre sus implicaciones éticas.

Las principales empresas tecnológicas, como OpenAI y Apple, ya están invirtiendo en sistemas de IA que predicen las intenciones humanas, lo que podría impulsar aún más este emergente mercado.