Los comentarios basados en insultos y otros comentarios tóxicos (no negativos) son un problema creciente en Internet. En muchas ocasiones el acoso solamente consigue que se abandonen muchas de las conversaciones en los sitios web y redes sociales. Pues bien, en este sentido y para tratar de paliar esta norma Google y Jigsaw han presentado hoy el proyecto Perspective, una tecnología inteligente para detectar y posiblemente silenciar o eliminar los comentarios tóxicos propios de los conocidos como Trolls de Internet.
Se trata tal como comentan en el blog de Google España, en una primera etapa de su desarrollo pero que ya utiliza aprendizaje automático o ‘Maching Learning’ para identificar este tipo de comentarios fuera de lugar. Ya disponible una API para que los editores o desarrolladores puedan acceder al código del proyecto para utilizarla en sus páginas web.
¿Cómo funciona Perspective?
La herramienta analiza cada comentario y realiza su evaluación en base a otros comentarios indicados como “tóxicos” por otras personas y que en muchas ocasiones hacen abandonar una conversación. Perspective examina decenas de miles de comentarios etiquetados por personas dedicadas a revisarlos. Al tiempo que Perspective va encontrando comentarios y correcciones irá mejorando su capacidad global de análisis y eficiencia para los futuros comentarios que le lleguen.
Con esto lo editores podrán tener un filtro a través de Perspective con el que poder decidir si marcar los comentarios como Pendientes de revisión, si los eliminan o si son incluidos, clasificando los comentarios según su toxicidad Según indican, incluso las propias personas podrán ver en tiempo real la potencialidad de la toxicidad de sus comentarios mientras los están escribiendo, en base a los datos de la herramienta.
En el propio sitio de la herramienta perspectiveapi, puedes probarlo pues tienes disponible un cuadro de texto donde introducir alguna frase para comprobar el nivel de toxidad de tus palabras (de momento en inglés).
Se está probando ya la tecnología de Perspective con el famoso diario The New York Times. Un sitio web donde se revisan a diario alrededor de 11.000 comentarios, una cantidad enorme de esfuerzo y recursos para el diario, que puede beneficiarse de esta tecnología contra los comentarios tóxicos.
Por el momento está disponible solamente en lenguaje inglés pero a medida que sea testado y según su evolución, esto podrá ampliarse a otros idiomas. Desde la publicación de Google, firmada por Jared Cohen, Presidente de Jigsaw responde al ‘hacia dónde nos dirigimos” proclamando: ” Perspective proporciona a los editores una herramienta para fomentar más conversaciones inclusivas, pero el objetivo va más allá de la mejora de los comentarios y es ayudar a que las conversaciones online sean, realmente, conversaciones.”