Facebook mejora su algoritmo de traducción para evitar el ‘discurso de odio’ a nivel global

La plataforma ha añadido 24 nuevos idiomas, incluidos serbio, panyabí y camboyano, a sus servicios de traducción automática


Facebook mejora su algoritmo de traducción para evitar el ‘discurso de odio’ a nivel global
Logotipo de Facebook (Lionel Bonaventure / AFP)

Facebook intenta reducir el discurso de odio que, por muchas precauciones que tome, sigue campando a sus anchas en la plataforma. Por tanto, esta semana la red social ha anunciado en su blog oficial la expansión de sus herramientas de inteligencia artificial de traducción con las cuales pretende detectar los textos conflictivos, incluso en los idiomas menos difundidos.

Si bien en el último año las políticas de moderación de contenido de la plataforma para luchar contra el ‘discurso de odio’ y las noticias falsas, hayan sido objeto de importantes esfuerzos por parte de los programadores de Menlo Park, mucho queda aún por hacer. En particular, la detección de mensajes de este tipo puede ser mucho más complicada en países que no hablan inglés.

La Inteligencia Artificial ofrecerá tantas posibilidades que es difícil concretarlas sin el riesgo de olvidar aplicaciones que irán surgiendo en el tiempo

La Inteligencia Artificial ofrecerá tantas posibilidades que es difícil concretarlas sin el riesgo de olvidar aplicaciones que irán surgiendo en el tiempo (Universitat Abat Oliba CEU)

Si los moderadores de contenido no entienden el idioma de una publicación, es difícil (si no imposible) detectar el discurso de odio. Ya había pasado con páginas de organizaciones terroristas del mundo árabe y la cuestión se planteó nuevamente el mes pasado, después de que Facebook expulsara por primera vez a un político de alto nivel por su discurso de odio. El hecho ocurrió en Myanmar.

“Llevamos a cabo casi 6 mil millones de traducciones al día en nuestra comunidad. Con los métodos tradicionales, podría llevar años traducir profesionalmente el contenido publicado en un solo día”, explica Facebook en su blog, donde anuncia la expansión de la herramienta de traducción. La compañía asegura que traducir más contenido a más idiomas ayudará a los moderadores a detectar publicaciones contrarias a las políticas de la plataforma.

“Con los métodos tradicionales, podría llevar años traducir profesionalmente el contenido publicado en un solo día”

Para lograr este objetivo, Facebook ha agregado 24 nuevos idiomas, incluidos el serbio, el panyabí y el camboyano, a sus herramientas de traducción automática, por un total de 4.504 combinaciones de traducción que ahora se ofrecen en línea en la plataforma. Pero muchas de estas traducciones todavía se encuentran en una etapa temprana, precisa la compañía, y aún no pueden ofrecer una calidad profesional.

Facebook explica que, para que el algoritmo pueda traducir correctamente cada publicación, es necesario contar con un amplio conjunto de datos de traducciones correctas entre los dos idiomas implicados. En muchos casos esta condición todavía no se da, lo que dificulta el aprendizaje automático. El objetivo final es “mejorar la calidad de las traducciones en todos los idiomas, yendo más allá de lo útil y hacia traducciones altamente precisas, fluidas y con un sonido más humano”, asegura la compañía.

Comentarios de Facebook