Inteligencia Artificial

La IA de Facebook enfrenta acusaciones racistas y es desactivada

La red social ha debido entregar disculpas públicas debido a una grave situación. La IA de Facebook etiquetó erróneamente un video de hombres negros con una etiqueta de “primates”. Este error fue catalogado cómo “inaceptable” por parte de la compañía y por ello comenzaron a tomar acciones inmediatas. 

¿Cómo se produjo este problema? Según informa The New York Times, los usuarios que vieron un video publicado por el periódico británico Daily Mail recibieron una notificación que decía “Seguir viendo videos sobre primates”. 

Lo anterior levantó la polémica y Facebook tuvo que desactivar las funciones de recomendación en su plataforma cuando se percató de lo sucedido. 

¿Tecnología racista?

Este tipo de situaciones son más frecuentes de lo que se puede imaginar. De hecho, hace poco más de un año, algunas tecnologías de reconocimiento facial (y que también funcionan mediante una IA) fueron dadas de baja. 

También, podemos retroceder un poco más en el tiempo y llegar al 2015. Durante ese año un ingeniero de Google tuvo que disculparse debido a que su aplicación de “Fotos” etiquetó a dos personas negras como gorilas. ¿Quién fue la culpable de esta situación? Nuevamente una IA. 

Regresando a Facebook y su IA, es importante recordar que hace un año la red social se comprometió a buscar si sus algoritmos entrenados con esta tecnología tenían prejuicios raciales. Inclusive, esto también se haría en Instagram y así evitar posibles repercusiones, las que finalmente igual ocurrieron. 

En contra de la ley

En abril pasado, la Comisión Federal de Comercio de EE.UU realizó fuertes declaraciones. Las IA que han demostrado prejuicios raciales y de género podrían estar violando las leyes de protección al consumidor. Por esto, las compañías o plataformas involucradas como es el caso de Facebook deben comenzar a tomar medidas inmediatas para evitar estos casos y así evitar posibles multas.

Por otra parte, es sumamente importante que estas situaciones dejen de ocurrir y debe existir un compromiso para frenarlas. Solo queda esperar que Facebook solucione los “problemas” en su IA y esto no se produzca nunca más.