Instagram ha lanzado en su plataforma una nueva función basada en Inteligencia Artificial (IA) que avisa al usuario cuando la descripción de la foto o el vídeo que va a subir es potencialmente ofensivo. De este modo, Instagram da la oportunidad al usuario de reconsiderar su acción y cambiarla. Esta medida forma parte de la estrategia de Instagram para terminar con el ‘ciberbullyng’.
Según un estudio de mercado que fue llevado a cabo por Ditch The Label, una organización británica conocida por luchar contra el bullying, Instagram es la red social más tóxica de todas. Según dicho estudio, el 42% de los adolescentes dentro de esa plataforma sufrieron algún tipo de acoso online.
Por este motivo, con la nueva función de la plataforma, se pretende ayudar a “educar” a los usuarios de la red social a la vez que pretende disminuir los comentarios ofensivos en la plataforma. De este modo, se ayuda dar a conocer que está permitido y que no en la aplicación. Ya se ha implementado en algunos países y llegará a los restantes a lo largo de los próximos meses.
Tal y como explicó la compañía en un comunicado, “cuando alguien escriba un título para una publicación de feed, si la IA de Instagram detecta el título como potencialmente ofensivo, el usuario recibirá un aviso informándole de que su título es similar a los reportados por acoso. De este modo, los usuarios tendrán la oportunidad de editar el título de la foto antes de que se publique«.
El proceso no evitará que los usuarios incluyan el comentario a su foto que ellos deseen, aunque este sea potencialmente ofensivo. Sin embargo, la función es otra medida para que los usuarios tomen un momento para considerar las consecuencias de sus acciones y lo que pueden estar compartiendo.
Instagram no ha mostrado por el momento detalles sobre cómo, exactamente, sus advertencias de comentarios existentes han ayudado a la comunidad de la red social. Facebook tampoco ha proporcionado información sobre Instagram referente a la intimidación y el acoso específicamente. Pero como señala Instagram, sus medidas combinadas, que también incluirían esconder cuentas similares y agregar nuevos elementos como la opción de ‘Restringir’, están teniendo un impacto positivo según sus métricas.
Sin tener una idea exacta de cuáles son esas métricas, tendremos que aceptar la palabra de Instagram. Sin embargo, sí que somos conscientes de que la seguridad del usuario y garantizar que Instagram sea una plataforma donde todos los integrantes se sientan seguros para expresarse, es un enfoque clave bajo el nuevo jefe de la red social Adam Mosseri.
