La Inteligencia Artificial Generativa Despierta Alarma en la Ciencia a medida que los Datos Falsos Amenazan la Credibilidad

Las imágenes generadas por IA están generando grandes preocupaciones entre los investigadores y los editores, ya que las nuevas herramientas generativas de IA facilitan de manera alarmante la creación de datos e imágenes científicas falsas, según se señala en un comunicado de prensa de Nature.

Este avance amenaza la credibilidad de la literatura académica, con expertos temiendo un aumento en los estudios fabricados impulsados por la IA que pueden ser difíciles de identificar.

Jana Christopher, analista de integridad de imagen en FEBS Press en Alemania, enfatiza que la rápida evolución de la IA generativa está generando crecientes preocupaciones sobre su potencial de mal uso en la ciencia.

“Las personas que trabajan en mi campo — la integridad de la imagen y la ética de publicación — están cada vez más preocupadas por las posibilidades que ofrece”, dijo Jane, según lo informado por Nature.

Ella señala que, aunque algunas revistas pueden aceptar textos generados por IA bajo ciertos lineamientos, las imágenes y datos generados por IA se ven como cruzar una línea que podría impactar profundamente la integridad de la investigación, como señala Nature.

Detectar estas imágenes creadas por IA se ha convertido en un desafío primordial, dice Nature. A diferencia de las manipulaciones digitales anteriores, las imágenes generadas por IA a menudo carecen de los signos habituales de falsificación, lo que dificulta probar cualquier engaño.

La especialista en análisis de imágenes forenses, Elisabeth Bik, y otros investigadores sugieren que las figuras producidas por la IA, particularmente en biología molecular y celular, ya podrían estar presentes en la literatura publicada, según informó Nature.

Herramientas como ChatGPT se utilizan regularmente ahora para redactar documentos, identificables por las típicas frases de chatbot que se dejan sin editar, pero las imágenes generadas por IA son mucho más difíciles de detectar. En respuesta a estos desafíos, las empresas de tecnología y las instituciones de investigación están desarrollando herramientas de detección, señaló Nature.

Herramientas impulsadas por IA como Imagetwin y Proofig están liderando la carga al entrenar sus algoritmos para identificar contenido generado por IA. Dror Kolodkin-Gal, cofundador de Proofig, informa que su herramienta detecta con éxito imágenes de IA el 98% de las veces, pero señala que la verificación humana sigue siendo crucial para validar los resultados, según Nature.

En el mundo editorial, revistas como Science utilizan Proofig para los escaneos iniciales de los envíos, y el gigante editorial Springer Nature está desarrollando herramientas propias, Geppetto y SnapShot, para identificar irregularidades en el texto y las imágenes, según informó Nature.

Otras organizaciones, como la Asociación Internacional de Editores Científicos, Técnicos y Médicos, también están lanzando iniciativas para combatir las fábricas de artículos y garantizar la integridad de la investigación, según informó Nature.

Sin embargo, los expertos advierten que los editores deben actuar rápidamente. El detective de imágenes científicas, Kevin Patrick, teme que, si la acción se retrasa, el contenido generado por IA podría convertirse en otro problema sin resolver en la literatura académica, según informó Nature.

A pesar de estas preocupaciones, muchos mantienen la esperanza de que la tecnología del futuro evolucionará para detectar las falsificaciones generadas por la inteligencia artificial de hoy en día, ofreciendo una solución a largo plazo para salvaguardar la integridad de la investigación académica.