Primer Caso Conocido de Uso de Chatbots de IA para Acecho

James Florence, de 36 años, ha accedido a declararse culpable de una campaña de ciberacoso de siete años que implicó el uso de chatbots de inteligencia artificial para hacerse pasar por una profesora universitaria e invitar a desconocidos a su casa para encuentros sexuales.

Florence, de Massachusetts, utilizó plataformas como CrushOn.ai y JanitorAI para crear chatbots personalizados que imitaban las respuestas del profesor y llevaban a los usuarios a creer que estaban comunicándose con ella, según informó The Guardian.

Según los documentos judiciales revisados por The Guardian, Florence utilizó la información personal y profesional de la profesora, como su dirección residencial, fecha de nacimiento y detalles familiares, para instruir a los chatbots para que participaran en conversaciones sexualmente explícitas.

Los bots de IA fueron programados para confirmar las preferencias sexuales e incluso proporcionar detalles íntimos sobre la víctima. Florence, quien había robado ropa interior de la casa de la profesora, proporcionó a los bots información sobre sus elecciones de vestuario y los dirigió para que animaran a los usuarios a visitar su casa.

El caso, presentado en el tribunal federal de Massachusetts, marca un precedente legal significativo como la primera instancia conocida de un acosador utilizando IA para suplantar a su víctima y facilitar el acoso, según The Guardian. Florence se prepara para declararse culpable de siete cargos de ciberacoso y uno de posesión de pornografía infantil.

Stefan Turkheimer, vicepresidente de política pública en Rainn, una organización sin fines de lucro contra la violencia sexual, describió el caso como una alarmante nueva tendencia en el mal uso de la IA.

“Se trata de señalar a alguien con el objetivo de potencial abuso sexual”, dijo, según informó The Guardian. “Las herramientas que ha podido utilizar aquí realmente han empeorado mucho más el daño”, añadió.

Florence, quien una vez fue amigo del profesor, fue más allá de crear chatbots. Creó cuentas falsas en redes sociales y sitios web para suplantar a la víctima, distribuyendo imágenes explícitas y manipuladas de ella junto con detalles personales, informó The Guardian.

Plataformas como Craigslist, Reddit, X y Linktree se utilizaron para humillar a la profesora y distribuir el contenido falsificado. Un sitio web, ladies.exposed, presentó collages de fotos de la profesora junto a su dirección y número de teléfono, según informó The Guardian.

Estas acciones se extendieron durante varios años, comenzando en 2017. La profesora recibió decenas de mensajes y llamadas perturbadoras, incluyendo un correo de voz que falsamente afirmaba que su padre había fallecido en un accidente de coche, tal como informó The Guardian.

La víctima y su esposo se preocuparon cada vez más por su seguridad, llegando finalmente a instalar equipos de vigilancia en su hogar y tomar otras precauciones.

El acoso no cesó con la profesora. Florence se dirigió a varias otras mujeres y a una chica de 17 años, alterando digitalmente sus imágenes para crear contenido sexualmente sugerente.

Esta alarmante tendencia de usar la IA para el acoso es un problema creciente, con informes que demuestran que los menores también están siendo explotados de esta manera.