Una investigación conjunta de The Wall Street Journal y académicos de las universidades de Stanford y Massachusetts Amherst, ha revelado que los algoritmos de recomendación de Instagram promueven redes de pedófilos dedicadas a vender contenido sexual de menores. El análisis sostiene que los sistemas de la red social propiedad de Meta conectan a pedófilos y los dirigen hacia cuentas que ofertan este tipo de contenido. Se trata de un caso que recuerda al vivido en YouTube en 2016.
Los investigadores encontraron cuentas de Instagram que se anunciaban sin ningún tipo de censura ni reparo con hashtags como #pedowhore, #preteensex y #pedobait. En ellas se ofrecía contenido tanto de abuso sexual infantil como de autolesiones y zoofilia. También se proponían encuentros en persona. Para poner a prueba los algoritmos de recomendación de Instagram, los investigadores se crearon una cuenta, vieron el contenido compartido por estas redes e inmediatamente el sistema les indicó otras cuentas similares que podían seguir.
Los académicos también descubrieron que el sistema de moderación de Instagram ignoraba o descartaba informes sobre cuentas denunciadas por promocionar este tipo de material. The Wall Street Journal asegura que en algunos casos la respuesta de la red social fue que “debido al gran volumen de denuncias que recibimos, nuestro equipo no ha podido revistar la tuya”.
Alex Stamos, director del Stanford Internet Observatory y exdirector de seguridad de Meta, dice que Meta puede y debe hacer más para abordar este problema. “Que un equipo de tres académicos con acceso limitado haya sido capaz de encontrar una red tan grande, debería hacer saltar las alarmas en Meta”, comenta Stamos. Respecto al resto de redes sociales, la investigación sostiene que son menos propicias para los pederastas. En Twitter se encontraron 128 cuentas que vendían material pedófilo, menos de un tercio del número que descubrieron en Instagram, una red social y aplicación que tiene muchos más usuarios.
En respuesta a la investigación, un portavoz de Meta asegura ya han creado un grupo de trabajo para abordar la situación. La compañía dice que en enero retiró 490.000 cuentas que violaban sus políticas de seguridad infantil y que en los dos últimos años ha eliminado 27 redes de pedófilos. En opinión de David Thiel del Stanford Internet Observatory, Instagram no ha logrado encontrar un equilibrio entre los sistemas de recomendación diseñados para conectar usuarios y las funciones de seguridad que analizan y eliminan contenido abusivo.
