Facebook se une a la lucha contra la información falsa
Inteligencia Artificial

Facebook se une a la lucha contra el COVID-19 para prevenir la desinformación

La red social debutó nuevas medidas de seguridad para evitar la propagación de información falsa y contenido sensible durante la pandemia.

Facebook ayuda a prevenir información falsa

Ante el avance del COVID-19 y la respectiva saturación del tema en los medios tradicionales, Facebook lanzó un informe sobre las nuevas medidas que empleará para frenar el esparcimiento de fake news relacionadas a la pandemia. El reporte detalla cómo utiliza una combinación de inteligencia artificial, verificación de datos y moderadores de contenido para prevenir la propagación de información falsa. 

Su objetivo es hacer notar a los demás usuarios y usuarias de la plataforma que la publicación que están viendo puede no ser confiable. Durante el mes de abril, la compañía marcó más de 50 millones de publicaciones relacionadas con el virus. Hasta el momento, la estrategia ha servido para eliminar más de 2.5 millones de elementos rotulados como “dudosos”.

Uno de los focos más persistentes de contenido inapropiado actualmente es Marketplace. El espacio de compra y venta ha visto una proliferación en la venta de insumos de higiene. Mascarillas, alcohol gel e incluso kits para la detección del coronavirus forman parte del inventario. Se trata de artículos de primera necesidad que están siendo comercializados de manera irregular y a un precio muy por encima del normal.

Según Facebook, esta estrategia tiene un 95% de efectividad, ya que alguien a quien se le advierte que un contenido contiene información errónea por lo general decidirá no verlo. Pero producir esas etiquetas está demostrando ser un verdadero desafío. No sólo por la gran cantidad de datos que existen sin verificar en la plataforma, sino que también por los contenidos con discursos de odio en imágenes y videos. 

La dificultad se encuentra en que el software que se utiliza para la detección debe ser “entrenado” para encontrar duplicados o versiones ligeramente modificadas de ese contenido. Esto implica una gran cantidad de tiempo y recursos que podrían retrasar la correcta rotulación de estas publicaciones. Sin embargo, Facebook asegura ya haber encontrado la respuesta a esta problemática.

SimSearchNet contra la información falsa

SimSearchNet es un esfuerzo de varios años, el cual ha involucrado un amplio trabajo en múltiples divisiones al interior de la compañía. Implica capacitar a un modelo de inteligencia artificial para reconocer tanto las copias de la imagen original como sus duplicados. En palabras de los voceros de Facebook:

Una vez que los fact checkers han determinado que una imagen contiene afirmaciones falsas o engañosas sobre el coronavirus, SimSearchNet, como parte de nuestro sistema de indexación y comparación de imágenes de extremo a extremo, puede reconocer coincidencias casi duplicadas para que podamos aplicar etiquetas de advertencia.

Según sus encargados, el sistema se ejecuta sobre cada imagen cargada en Instagram y Facebook. Entonces, se realiza una verificación en contraste con bases de datos específicas para la tarea. En otras palabras, esto representa miles de millones de imágenes verificadas por día.

El objetivo es claro: ayudar a prevenir la desinformación y propagación de contenido potencialmente dañino. En esta lucha, un modelo de inteligencia artificial capaz de identificar este tipo de publicaciones es, sin duda, un paso significativo hacia una plataforma más segura.

 

Investigamos las tendencias en proyectos y estrategias digitales para complementarlas con nuestra experiencia en artículos informativos. Nuestro objetivo es aportar al desarrollo del área, discutiendo la efectividad de las tecnologías y técnicas aplicadas.

Comentarios