Opinión: ¿Está roto el sistema de regulación de seguridad de Meta?

Casi cualquier creador de contenido o gestor activo de redes sociales se ha enfrentado al mismo problema al publicar en Facebook o Instagram recientemente: una publicación o una cuenta es bloqueada, probablemente por razones equivocadas.

Esta molesta situación es solo una pieza del rompecabezas de un problema complejo con el sistema de regulación de contenido de Meta. Aunque Meta parece tener muchas medidas de control, a veces absurdas, la raíz del problema no parece resolverse.

En los últimos meses, Meta ha introducido numerosas actualizaciones a sus directrices de contenido e implementado reglas más estrictas con el objetivo de construir un entorno en línea más saludable. Una de las consecuencias ha sido que muchas empresas, editoriales y cuentas de usuarios han sido prohibidas, lo que ha generado cientos de quejas en foros, plataformas de chat y canales de redes sociales. Varios editores de noticias y marcas fueron eliminados de las plataformas de Meta en ciertas regiones este año, generando preocupaciones entre los propietarios de empresas, periodistas y creadores de contenido.

A pesar de las recientes actualizaciones de Meta, que dan la impresión de una moderación más estricta y un escrutinio más cercano del contenido compartido en sus plataformas, las publicaciones relacionadas con drogas, suicidio, acoso sexual, intimidación, discursos de odio, abuso y noticias falsas continúan filtrándose a través de los algoritmos, llegando a comunidades vulnerables.

No puedo evitar preguntarme: ¿Qué está pasando con el sistema de regulación de seguridad de Meta?

Cuentas Baneadas por las Razones Equivocadas

Todo comienza con un mensaje similar: “Tu cuenta de Meta no sigue nuestras reglas.” Muchos usuarios de Facebook e Instagram han sido baneados o temporalmente expulsados de sus cuentas “por no cumplir” con las reglas de Meta, incluso cuando ellos creen que sí lo han hecho.

Es una situación que hemos experimentado en Wizcase. El sistema de Meta señaló elementos relevantes como inapropiados y hizo que la gerente de la comunidad pasara por un proceso de apelación y proporcionara identificaciones emitidas por el gobierno.

Cientos de usuarios, gerentes de comunidad y gestores de cuentas se han quejado en plataformas como Reddit y otros foros, chats y canales de redes sociales sobre situaciones similares. En múltiples escenarios desafortunados, los usuarios pierden sus cuentas y no hay nada que puedan hacer al respecto, e incluso no reciben una explicación.

“El equipo de soporte de Facebook es terrible. No importa cuántas veces les contemos todo o les expliquemos todo, simplemente no entienden”, dijo una usuaria en Reddit en un hilo sobre cuentas prohibidas. “Lo único que puedo decir de inmediato es que no vas a recuperar tu cuenta a menos que estuvieras gastando cientos de miles al día”, agregó otra.

Este problema, aunque parezca afectar solo a los creadores de contenido, es solo una pequeña parte de un desafío mayor.

Meta Contra Demandas

Durante años, Meta ha estado invirtiendo en moderación de contenidos y nuevas estrategias para trabajar en una plataforma más segura para los usuarios y para protegerse de más demandas legales, la más reciente es de los moderadores de contenido de Kenia, quienes actualmente reclaman $1.6 mil millones en compensación por despidos masivos y para compensar el material angustioso al que estuvieron expuestos mientras analizaban contenido para Facebook.

La empresa de tecnología depende de terceros para ayudar con las regulaciones de contenido y desarrolla herramientas para reconocer cuando el contenido viola las reglas de la plataforma. Sin embargo, estas medidas no han sido suficientes y la situación se ha descontrolado, especialmente entre los usuarios menores de edad.

En 2021 Meta introdujo nuevas características de protección, pero eso no impidió que el Senado incluyera a Instagram y Facebook entre las plataformas consideradas perjudiciales para los niños el año pasado. El gigante tecnológico se enfrentó a una demanda conjunta presentada por 33 estados en los Estados Unidos por su algoritmo manipulador y dañino.

Desde enero, Meta ha compartido actualizaciones sobre nuevas herramientas de control de seguridad. En junio, la compañía mejoró su herramienta contra el acoso para proteger a los adolescentes en Instagram con una función predeterminada de “Amigos Cercanos” con una característica de “Límites” para que solo los amigos y familiares reales pudieran interactuar con el contenido publicado por los usuarios jóvenes.

Hace tan solo unos días, la compañía anunció las nuevas Cuentas para Adolescentes para proteger a los adolescentes y “tranquilizar a los padres de que los jóvenes están teniendo experiencias seguras”. ¿Será suficiente para proteger a los niños? ¿Y qué pasa con los usuarios mayores?

Un Ecosistema Inseguro

Facebook, Instagram y WhatsApp aún están plagados de contenido perjudicial que afecta a los usuarios, de todas las edades, profesiones y grupos sociales, y difícilmente se resolverá pronto.

Un estudio realizado por el Centro de Contrarrestar el Odio Digital (CCDH) analizó más de 500 millones de comentarios en Instagram hechos en las cuentas de 10 políticas estadounidenses y reveló que Meta no eliminó ni tomó medidas sobre el 93% de estos comentarios.

Las múltiples demandas contra Meta han demostrado literalmente que la empresa está luchando por proteger a los usuarios de contenido dañino, y también ha estado perjudicando a creadores, editores y marcas con filtros injustos y herramientas de seguridad mal implementadas.

Por supuesto, este es un problema complejo y profundo que debería abordarse a fondo, pero tal vez es hora de aceptar que Meta no ha podido manejar esta situación. Las soluciones rápidas y temporales no resolverán un sistema que está fundamentalmente roto. Ahora la verdadera pregunta es: ¿Cuántos usuarios más necesitan ser injustamente prohibidos, engañados o manipulados antes de que ocurra un cambio real?