Investigación demuestra que algoritmos de Instagram promueven la pedofilia

Según una investigación realizada por el diario The Wall Street Journal (WSJ), la red social Instagram fomenta la pedofilia y la explotación sexual en niños. En colaboración con especialistas de la Universidad de Stanford y la Universidad de Massachusetts Amherst, el WSJ descubrió más de 405 vendedores de contenido sexual infantil que eran promocionados por la red social.

La plataforma permite alojar perfiles que se dedican a la compra de contenido sexual de menores y a la difusión de los mismos, promoviendo a través de su algoritmo la conexión de personas con “intereses” similares fomentando de esta manera el delito de pedofilia, violando las leyes de EE.UU. y las propias reglas establecidas por la empresa Meta.“Los pedófilos han usado Internet durante mucho tiempo, pero a diferencia de los foros y los servicios de transferencia de archivos que atienden a las personas interesadas en contenido ilícito, Instagram no solo alberga estas actividades. Sus algoritmos los promueven”, informó el WSJ.

Los investigadores lograron advertir que Instagram (con más de 1.300 millones de usuarios) permite a las personas buscar etiquetas explícitas como también hacer comentarios con palabras claves y expresarse con emoticones específicos, lo que permite que los usuarios se conecten a cuentas que usan los términos para anunciar la venta de material sexual infantil y “reuniones” con niños, utilizando hashtags explícitos. “La plataforma más importante para estas redes de compradores y vendedores parece ser Instagram”, escribieron los expertos del Observatorio de Internet de Stanford en el informe.

Como parte de la investigación, el WSJ creó diversas cuentas de prueba para verificar si la recomendación del algoritmo era verídica, lo que concluyó en que después de “ver o seguir” una cuenta de esta índole, comenzaron a recibir recomendaciones en el apartado “explorar” de supuestos vendedores y compradores de contenido sexual infantil, así como cuentas que se vinculan a sitios de comercio de contenido fuera de la plataforma. “Seguir solo un puñado de estas recomendaciones fue suficiente para inundar una cuenta de prueba con contenido que sexualiza a los menores de edad”, explicaron desde el medio.

Tras haberse revelado dicha investigación, desde Meta declararon: “La explotación infantil es un crimen horrible”, y agregaron que están “investigando continuamente formas de defenderse activamente contra este comportamiento”.

“Instagram es una vía de acceso a lugares en Internet donde hay más abuso sexual infantil explícito”, dijo Brian Levine, director del Laboratorio de Rescate de UMass, que investiga la victimización infantil en línea y construye herramientas forenses para combatirla. Levine es autora de un informe de 2022 para el Instituto Nacional de Justicia, el brazo de investigación del Departamento de Justicia de los EEUU, sobre la explotación infantil en Internet.

El esfuerzo de las plataformas de redes sociales y las fuerzas del orden para combatir la propagación de la pornografía infantil en línea se centra principalmente en la búsqueda de imágenes y videos confirmados, conocidos como material de abuso sexual infantil, o CSAM, que ya se sabe que están en circulación. El Centro Nacional para Niños Desaparecidos y Explotados, una organización estadounidense sin fines de lucro que trabaja con la policía, mantiene una base de datos de huellas digitales para tales imágenes y videos y una plataforma para compartir dichos datos entre compañías de Internet.

Los algoritmos de las compañías de Internet verifican las huellas digitales de las imágenes publicadas en sus plataformas contra esa lista e informan al centro cuando las detectan, como lo exige la ley federal de los Estados Unidos. En 2022, el centro recibió 31.9 millones de informes de pornografía infantil, principalmente de compañías de Internet, un 47% más que dos años antes.

Meta, con más de 3 mil millones de usuarios en sus aplicaciones, que incluyen Instagram, Facebook y WhatsApp, es capaz de detectar este tipo de imágenes conocidas si no están encriptadas. Meta representó el 85% de los informes de pornografía infantil presentados al centro, incluidos unos 5 millones de Instagram.

En algunos casos, los sistemas de recomendaciones de Instagram socavan directamente los esfuerzos de su propio personal de seguridad. Después de que la compañía decidió tomar medidas enérgicas contra los enlaces de un servicio específico de transferencia de archivos cifrados conocido por transmitir contenido de sexo infantil, Instagram bloqueó las búsquedas de su nombre.

Las sugerencias de hashtag impulsadas por IA de Instagram no recibieron el mensaje. A pesar de negarse a mostrar resultados para el nombre del servicio, la función de autocompletar de la plataforma recomendó que los usuarios probaran variaciones en el nombre con las palabras “niños” y “CP” agregadas al final.

La compañía intentó desactivar esos hashtags en medio de su respuesta a las consultas del Journal. Pero a los pocos días, Instagram volvió a recomendar nuevas variaciones del nombre del servicio que también llevaron a cuentas a vender supuesto contenido sexual para menores de edad.

Tras el barrido inicial de cuentas de la compañía que le llamaron la atención Stanford y el Journal, Levine de UMass revisó algunas de las cuentas de vendedores menores de edad restantes en Instagram. Como antes, ver incluso uno de ellos llevó a Instagram a recomendar otros nuevos. Las sugerencias de Instagram estaban ayudando a reconstruir la red que el propio personal de seguridad de la plataforma estaba tratando de desmantelar.

Un portavoz de Meta dijo que sus sistemas para evitar tales recomendaciones se están construyendo actualmente. Levine calificó el papel de Instagram en la promoción de contenido y cuentas pedófilas como inaceptable.

“Tire del freno de emergencia”, dijo. “¿Los beneficios económicos valen la pena los daños a estos niños?”