Google Actualiza Políticas para Combatir Deepfakes Explícitos No Consensuales

Ayer, Google ha anunciado actualizaciones significativas de políticas destinadas a ayudar a las personas a controlar los “deepfakes” explícitos. Estos son imágenes y videos generados por IA que muestran a personas en contextos sexualmente explícitos sin su consentimiento.

Como una de las actualizaciones clave, las personas pueden solicitar la eliminación de imágenes explícitas falsas no consensuadas de la Búsqueda. Google ha simplificado y hecho más efectivo este proceso. Cuando una solicitud es exitosa, los sistemas de Google también filtrarán todos los resultados explícitos en búsquedas similares y eliminarán los duplicados.

Además, para combatir el contenido perjudicial, Google ha actualizado sus sistemas de clasificación para dar prioridad a la información de alta calidad. Las actualizaciones de clasificación reducirán el contenido falso explícito en los resultados de búsqueda. Para las búsquedas que buscan específicamente contenido explícito con los nombres de las personas, se dará prioridad al contenido de alta calidad y no explícito. Esto ha reducido la exposición a imágenes explícitas en más del 70%.

Google también está trabajando para distinguir mejor el contenido explícito real y consensuado del contenido explícito falso. Los sitios con grandes volúmenes de imágenes explícitas falsas eliminadas serán degradados.

Apoyando la urgencia de estas actualizaciones, un investigador independiente compartió recientemente un estudio con WIRED, revelando el alcance extenso de los videos deepfake no consensuados. El estudio muestra que al menos 244,625 videos han sido subidos a los 35 sitios web más grandes que alojan pornografía deepfake durante los últimos siete años. Notablemente, 113,000 de estos videos fueron subidos solo en los primeros nueve meses de 2023, un aumento del 54 por ciento en comparación con el número total de videos subidos en 2022. Estas cifras alarmantes enfatizan la creciente prevalencia de este contenido dañino.

Un informe de WIRED en marzo reveló que Google recibió más de 13,000 solicitudes para eliminar enlaces a deepfakes explícitos de una docena de sitios web populares. El gigante tecnológico cumplió con alrededor del 82% de estas demandas. Esta estadística demuestra el volumen significativo de contenido perjudicial y la demanda de su eliminación.

Las historias personales resaltan el severo impacto de los deepfakes. Ayer, el New York Times informó la historia de Sabrina Javellana, una estrella política en ascenso en Florida, quien descubrió deepfakes de ella misma circulando en línea. Enfrentando acoso constante, Javellana decidió retirarse de la política y optó por un papel menos público.

En otro caso, la BBC informó esta semana que una familia afirma que la Policía de West Yorkshire no protegió a su hija de 12 años. Los acosadores habían publicado una imagen explícita de deepfake de ella en Snapchat. Inicialmente, la policía le dijo a la familia que no se podía hacer nada porque Snapchat tiene su base en los Estados Unidos. La imagen traumatizó a la niña y se difundió ampliamente.

Las actualizaciones de las políticas de Google son un paso significativo hacia la resolución de la crisis de los deepfakes. Sin embargo, la complejidad del problema requiere esfuerzos continuos y colaboraciones para abordar completamente el problema.