Experta de Stanford acusada de utilizar IA para fabricar una declaración judicial

El profesor de Stanford, Jeff Hancock, es acusado de usar la IA para fabricar citas en una declaración judicial defendiendo la ley de deepfake de Minnesota.

El profesor de comunicación de Stanford y experto en desinformación, Jeff Hancock, está bajo escrutinio tras ser acusado de utilizar inteligencia artificial (IA) para fabricar partes de una declaración judicial, según informó The Stanford Daily.

Hancock, la directora fundadora del Laboratorio de Redes Sociales de Stanford, presentó una declaración de 12 páginas en noviembre a un tribunal de Minnesota en defensa de la ley del estado de 2023 que penaliza el uso de deepfakes para influir en las elecciones, según informó The Daily.

Su testimonio apoyó al Fiscal General de Minnesota, Keith Ellison, enfatizando los peligros de los medios generados por IA en la propagación de desinformación. Hancock argumentó que los deepfakes socavan la verificación de hechos tradicional y aumentan la persuasividad de la información falsa, dice The Daily.

La declaración, que incluyó 15 citas, ha sido objeto de críticas después de que no se pudieran localizar dos artículos académicos citados. Estos trabajos no pudieron ser rastreados a través de sus identificadores de objetos digitales reportados o las revistas citadas, según The Daily.

El abogado Frank Berdnarz, que representa a los demandantes, la representante estatal republicana Mary Franson y el satírico de redes sociales conservador Christopher Kohls, cuestionó la integridad del testimonio de Hancock, tal como lo señaló The Daily.

Berdnarz argumentó que las citas cuestionables se parecían a “alucinaciones” generadas por IA e instó a que se excluyera el documento de la consideración judicial.

Declaró: “La existencia de una cita ficticia que Hancock (o sus asistentes) ni siquiera se molestaron en hacer clic pone en duda la calidad y veracidad de toda la declaración”, según informó The Daily.

Hancock, quien recibió $600 por hora por su testimonio, hizo su declaración bajo pena de perjurio. La profesora no ha comentado sobre las acusaciones, informó The Daily.

Hancock, quien imparte cursos sobre comunicación y tecnología, fue destacado en un documental de Netflix en 2024 junto a Bill Gates discutiendo sobre el futuro de la IA. Está programado para enseñar Verdad, Confianza y Tecnología en la primavera de 2025, explorando el engaño en los medios digitales, señaló The Daily.

Kohls, conocido en línea como Mr. Reagan, anteriormente se había opuesto a las leyes de California que apuntan a los medios políticos engañosos, incluyendo una que aborda un video de campaña manipulado de la Vicepresidenta Kamala Harris, como señaló The Daily.

Si se demuestra que son ciertas, estas acusaciones arrojan una sombra sobre la credibilidad del conocimiento académico en cuestiones legales de alto riesgo, donde la integridad es primordial.

Si se demuestra que son ciertas, las acusaciones contra Hancock resaltan una profunda contradicción: un experto en desinformación potencialmente fabricando pruebas en una declaración legal. Su papel como académico que advierte sobre los peligros de la engañosa generada por la IA contrasta fuertemente con la acusación de que utilizó las mismas herramientas que critica para reforzar su testimonio.