Meta explica las medidas que emplea para detectar a los depredadores en sus plataformas

La firma tecnológica ha contratado especialistas dedicados a la seguridad infantil online

Meta ha insistido en que cuenta con una serie de medidas y sistemas sofisticados en lo relacionado a los depredadores sexuales para abordar esta problemática en sus redes sociales, explicando cómo trabaja en este ámbito para limpiar sus plataformas de este tipo de usuarios.

La firma tecnológica ha reconocido que prevenir la explotación infantil “es uno de los desafíos más importantes” a los que se enfrenta la industria y que ahora, “más que nunca”, trabaja para mantenerse a la vanguardia.

Para ello, no solo se ha encargado de desarrollar tecnología que acabe con los depredadores sexuales, sino que también ha contratado especialistas dedicados a la seguridad infantil online.

¿Cómo están trabajando para evitar a estos usuarios?

Meta ha explicado cómo trabaja para evitar este tipo de usuarios en sus redes sociales después de que una investigación llevada a cabo por The Wall Street Journal, investigadores de la Universidad de Stanford y la Universidad de Massachusetts Amherst revelara que Instagram favorece la pedofilia entre sus contenidos al conectar usuarios que venden imágenes y vídeos de carácter sexual de menores con personas que los compran.

En relación a estas acusaciones, Meta ha reconocido haber creado un grupo de trabajo para revisar las políticas existentes y la tecnología que emplea para prevenir estos casos, así como llevar a cabo los cambios necesarios para fortalecer la protección que ofrece a los menores.

En primer lugar, ha mencionado que el grupo de trabajo encargado del apartado de seguridad infantil de Meta se centró en tres áreas. La primera de ellas se encarga de su sistema recomendaciones, así como funciones de Búsqueda y hashtags, tanto de personas como de contenidos de interés. Asimismo, ha comenzado a utilizar “técnicas novedosas” para encontrar nuevos términos con aprendizaje automático que podrían ser perjudiciales o que infringen su normativa.

Y la última de las medidas guarda relación con la unificación de Facebook e Instagram, que cuentan con una lista central de estos términos para que se apliquen las limitaciones correspondientes de manera simultánea en ambas redes sociales.

La segunda de estas áreas se centra en restringir a los depredadores sexuales potenciales y eliminar sus perfiles en estas redes sociales. En este sentido, la firma ha indicado que ha desarrollado una tecnología que identifica adultos potencialmente sospechosos que analiza en base a más de 60 parámetros diferentes para determinar si se trata de personas peligrosas.

Entre algunos de estos se encuentra el hecho de que esa persona busque “repetidamente” términos que puedan sugerir un comportamiento sospechoso o si un adolescente la bloquea o la denuncia en algún momento. Por otra parte, ha explicado que los grupos de Facebook con un cierto porcentaje de miembros que exhiben comportamientos potencialmente sospechosos no se sugerirán a otras personas.

Gracias a estas decisiones y como resultado de este trabajo, desde el 1 de julio de 2023 Meta eliminó más de 190.000 grupos de la Búsqueda, según ha concluido en esta actualización.

En último lugar, la compañía liderada por Mark Zuckerberg ha explicado que también ha contado con expertos en la aplicación de la ley y seguridad infantil para encontrar redes de de abuso que utilicen un lenguaje codificado para evadir las restricciones habituales de la red social y eliminarlas.

De este modo, entre 2020 y 2023 los equipos de trabajo de Meta interrumpieron 32 redes de depredadores y eliminaron más de 160.000 cuentas asociadas con estas redes, según los datos de la empresa.