Inteligencia Artificial para la moderación de comentarios tóxicos

Google sigue apostando por el uso de la Inteligencia Artificial como herramienta multiuso, en esta ocasión, presenta el proyecto llamado Perspective.

Perspective se basa en la categorización de comentarios marcados como negativos por los moderadores para identificar las razones por las cuales una conversación puede marcarse como tóxica o de mal gusto.

Pero Perspective va más allá, además de alimentarse de la base de datos de comentarios negativos, puede aprender sobre la marcha e incluso utilizar el lenguaje aprendido para dar aviso a un usuario de que su lenguaje es inapropiado.

Su lógica de funcionamiento inicial es bastante simple, un equipo de editores llena una base de datos inicial a partir de comentarios revisados y marcados o considerados como tóxicos u ofensivos. Tras este llenado, Perspective es libre de analizar en la web los miles de comentarios disponibles y, comparándolos con la base de datos creada, los clasifica como tóxicos o no.

Ya que la base de Perspective es el aprendizaje automático, mientras más comentarios evalúe, más aprende, creando patrones de reconocimiento a medida que va acertando en la calificación de los comentarios. Sin embargo, al ser una plataforma relativamente nueva, Perspective puede equivocarse y sus desarrolladores lo saben, por ello, tanto editores como usuarios pueden realizar la labor de revisión y corregir los patrones de Perspective al marcar comentarios que no consideren ofensivos.

Si bien está en sus primeras fases, esta tecnología puede ser usada por editores y desarrolladores, de hecho, ya fue implementada en The New York Times para ponerla en práctica, agilizando el filtrado de comentarios y respuestas con moderación de lenguaje.

Si eres desarrollador o simplemente quieres ver cómo funciona escribiendo comentarios que calificarías como tóxicos, puedes ingresar al sitio oficial del proyecto y hacer una prueba en vivo o solicitar acceso a la API.

Anuncios

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s