Debido a que Facebook ha adquirido un tamaño considerable de usuarios, el sistema se ha vuelto prácticamente incontrolable, incluso para su creador. Ahora, la red social ha creado una inteligencia artificial que se dedica a luchar contra la pornografía infantil. El sistema se ha dedicado a borrar un total de 8,7 millones de fotos de la plataforma.
Entre los mayores problemas que afrontan las redes sociales en general, se destaca la difusión de noticias falsas, la injerencia, la manipulación de grupos políticos y la pornografía infantil. Sin embargo, Facebook ha desarrollado herramientas sofisticadas, utilizando la inteligencia artificial y el aprendizaje automático.
De modo que, no importa si el contenido se ha publicado hace mucho tiempo, ya que la búsqueda de imágenes es muy rápida y proactiva. Además, Facebook recurre a sistemas que ayudan a detectar patrones de hábitos relacionados con los adultos que buscan contenidos de niños, con el fin de eliminar tales cuentas y proteger a los menores.
Otra medida consiste en borrar contenido considerado como neutral o no dañino. Por ejemplo, las fotos de niños bañándose desnudos, que más adelante podría generar un riesgo de abuso. Facebook ya ha detectado un 99% de imágenes antes de que algún usuario las denunciase.
